📚 Агенты поверх RAG — модный тренд, но нужен не всем

📚 Агенты поверх RAG — модный тренд, но нужен не всем

Идея: вместо простого «найди + ответь» модель сама решает, когда искать, где искать и как переформулировать запрос.

Плюсы:
🔴 работает с многошаговыми вопросами: «сравни политику А с законом Б»
🔴 может отфильтровать вопросы, на которые вообще не надо отвечать

Минусы:
🔴 задержка +200-800%. То есть 8 сек вместо 2.
🔴 стоимость на запрос +3-5×. Каждый шаг агента = вызов LLM.
🔴 отладка становится сложной. Модель сама решает, что делать, у тебя логи из трёх шагов.

Мой вердикт: пробуйте после того, как простой RAG упёрся в потолок. Не раньше.
➖➖➖➖➖➖➖➖➖➖
Антон Хоменок про RAG-системы 📚