EU AI Act: 7 проверок, чтобы не встроить риск в маркетинг и аналитику

EU AI Act: 7 проверок, чтобы не встроить риск в маркетинг и аналитику

Если у вас в воронке есть скоринг, генерация текстов, автосегментация или любые решения на основе модели, смотрите не на «вау-эффект», а на роль системы: она может считаться high-risk или просто вспомогательным инструментом. От этого зависят требования к документированию, контролю и прозрачности.

Для маркетинга и трекинга обычно ломаются три вещи:
— скрытый сбор и обогащение данных без понятного основания;
— профилирование, которое влияет на доступ к офферу, цене или показу;
— автоматические решения без человеческого контроля и возможности оспорить результат.

Перед запуском проверьте:
— есть ли у человека понятное уведомление, что модель используется;
— можно ли объяснить, какие данные входят в решение;
— есть ли ручная проверка там, где модель может ошибаться;
— не подставляете ли чувствительные признаки в таргетинг или look-alike;
— храните ли логи, версии промптов и правил.

На практике: если модель влияет на деньги, доступ или статус пользователя, это уже не «просто оптимизация». Делайте короткую карту систем: входные данные, цель, кто отвечает, где ручной стоп, что показываем пользователю.

Чем раньше вы отделите «автоматизацию для удобства» от «автоматизации с последствиями», тем меньше шансов потом переписывать трекинг, дисклеймеры и процессы под давлением юристов.