Если ИИ встроен в процесс без контроля, он начинает множить ошибки быстрее человека. Перед запуском проверьте не модель, а связку целиком: вход, логику, выход и запасной сценарий.
— Входные данные: что будет, если текст пустой, кривой или с мусором?
— Ограничения: где нужен лимит длины, формат ответа и список запрещённых действий?
— Проверка результата: кто и как ловит галлюцинации, дубли и неверные поля?
— Ручной обход: есть ли способ остановить цепочку и обработать кейс вручную?
Отдельно тестируйте крайние случаи: слишком длинные запросы, неоднозначные команды, конфликтующие инструкции и повторный запуск одного и того же сценария. Именно там чаще всего всплывают скрытые баги.
Если автоматизация касается клиентов, денег или публикаций, добавьте журнал действий и понятный fallback. ИИ должен ускорять процесс, а не делать его неуправляемым.
Промпт Инженерия
@prompt_engineering_ru_n1k
Как не сломать AI-автоматизацию: 5 проверок до запуска в прод
Этот пост опубликован в Telegram-канале Промпт Инженерия (@prompt_engineering_ru_n1k). Все его публикации — на странице канала.
Открыть в Telegram