Compliance в агентских пайплайнах ломается не на модели, а на неясных границах доступа

Compliance в агентских пайплайнах ломается не на модели, а на неясных границах доступа

Первое правило: разделяйте чтение, запись и исполнение. Агент может собирать данные, черновик отчета или список гипотез, но отправка сообщений, изменение бюджетов и запуск кампаний должны проходить через явное подтверждение.

Второе: минимизируйте контекст. Не давайте агенту лишние токены из CRM, кабинетов и внутренних чатов. Лучше короткий scoped access, чем полный dump. Это снижает риск утечки и уменьшает шанс, что модель “увидит” лишнее и начнет тащить это в ответ.

Третье: логируйте все решения. Нужен след не только того, что сделал агент, но и почему он это сделал: входные данные, вызванный инструмент, итог, кто утвердил. Без этого разбор инцидента превращается в угадайку.

Четвертое: ставьте стоп-кран на аномалии. Если агент внезапно меняет слишком много сущностей, повторяет одинаковые действия или уходит в нестандартные ветки, workflow должен останавливаться и звать человека. Это особенно важно в media buying, где ошибка быстро становится денежной.

Хороший compliance-чеклист для агента — не про запреты, а про управляемую автономность: что он может читать, что может предлагать, что может делать только после ревью. Чем раньше это формализовано, тем меньше ручного тушения пожаров потом.