Постоянно спрашивают, есть ли смысл мучиться с запуском агентов локально, чтобы не платить за токены и не отправлять код в облако. Ответ: смотря для чего.
Мои цифры:
🔹 для маленьких скриптов локальные LLM работают пушка, скорость мгновенная
🔹 на сложных задачах (типа рефакторинга всей БД) локальные модели часто галлюцинируют больше облачных
Для серьезного прода я пока топлю за гибрид: локально — быстрые задачи, облако — сложная логика. Уверен, всем будет полезно попробовать оба варианта, чтобы почувствовать разницу. Кто уже пробовал — как полет?
➖➖➖➖➖➖➖➖➖➖
Антон Хоменок про IDE-агентов ⚙️
Хоменок про IDE-агенты ⚙️
@xomenok_ide
🟢 Локальный агент: стоит ли заморачиваться с запуском на железе
Этот пост опубликован в Telegram-канале Хоменок про IDE-агенты ⚙️ (@xomenok_ide). Все его публикации — на странице канала.
Открыть в Telegram