Безопасные guardrails для агента, который трогает бюджеты — без каскада ошибок

Безопасные guardrails для агента, который трогает бюджеты — без каскада ошибок

Если агент может запускать кампании, менять ставки или паузить группы, у него должны быть не «права на всё», а узкий коридор действий. Самая частая ошибка — дать LLM доступ к API и надеяться на аккуратность. В реальности нужны ограничения на уровне инструмента, а не только в промпте.

Базовый набор guardrails:
• лимит на сумму изменения за один проход;
• allowlist кампаний, аккаунтов и действий;
• запрет на массовые операции без подтверждения;
• dry-run для всех планов до записи в API;
• сравнение «было / станет» перед применением;
• лог причин каждого изменения в human-readable виде.

Для бюджета отдельно полезны правила: агент не может повышать spend выше заданного порога, трогать последние рабочие кампании без ручного подтверждения, и обязан откатывать шаг, если не может объяснить, зачем он его сделал. Если решение нельзя пересказать в двух строках, оно не должно уходить в прод.

Лучший паттерн — двухконтурная схема: агент предлагает действие, второй слой валидирует его по жёстким правилам. Это снимает класс ошибок вроде дубля кампаний, случайного broad edit и «оптимизации» на основе шумного сигнала. Для performance это важнее, чем красивый prompt.

Практика простая: сначала ограничивай ущерб, потом масштабируй автономность. Агент с узкими правами полезнее, чем «умный» агент, который может сжечь бюджет за один неверный цикл.