LLM не магия: 7 ошибок в промптах, из-за которых агенты ломают код и терпение

LLM не магия: 7 ошибок в промптах, из-за которых агенты ломают код и терпение

LLM в dev_saas выглядит как релиз года, пока не начинаешь кормить его расплывчатыми задачами. Большинство провалов не в модели, а в том, как ей ставят задачу.

— Нет границ: «сделай красиво» вместо конкретного результата, файлов и формата ответа
— Нет контекста: модель не знает стек, ограничения и что уже пытались
— Нет критериев готовности: непонятно, когда задача решена, а когда начался hallucination-театр

Если нужен нормальный ответ, держи три вещи: роль, цель, ограничения. Пиши не «почини баг», а «исправь ошибку в сервисе X, не меняя публичный API, и объясни, какие файлы тронуты». Для agents это как ремень безопасности: без него automation едет, но недолго.

Ещё одна ловушка — просить «всё и сразу». Лучше разбивать на шаги: сначала план, потом дифф, потом проверка рисков. И отдельно проси модель назвать, где она не уверена. Хороший LLM не должен изображать всезнайку — он должен уметь тормозить.

Если кратко: чем меньше тумана в запросе, тем меньше шаманства в ответе. И да, может, конечно, ни хуя не взлетит именно в вашем кейсе — но обычно проблема не в llm, а в ожидании, что она догадается сама.