Атрибуция в моделях не «читается» по ходу пути — она часто собирается в конце

Атрибуция в моделях не «читается» по ходу пути — она часто собирается в конце

В одной из недавних arXiv-работ авторы посмотрели, как языковые модели удерживают состояние и соотносят запрос с контекстом. Вывод неприятный для тех, кто привык думать о LLM как о последовательном «понимании» текста: модель не обязана шаг за шагом накапливать нужные признаки по мере чтения. Часть релевантной информации она агрегирует уже тогда, когда запрос становится явным, то есть на финальном отрезке обработки.

Отдельно исследователи отметили ещё одну хрупкую механику — операцию удаления признака. Внутри модели она может опираться на глобальный подавляющий сигнал, который легко ломается и даёт побочные ошибки. Для инженерии это важная деталь: сбой не обязательно выглядит как «неверный ответ», он может проявляться как нестабильная интерпретация контекста.

Для измерений и атрибуции здесь есть прямой аналог. Если сигнал собирается неравномерно, то длинная цепочка касаний, поздно сформулированная цель и размытые сущности ухудшают качество вывода не потому, что «данных мало», а потому что система поздно понимает, что именно нужно учитывать.

Что это значит на практике:

- в event schema и server-side-сборе важно рано и однозначно фиксировать ключевые признаки события;
- в атрибуции не стоит рассчитывать, что модель сама «достроит» контекст из рыхлых названий кампаний и промежуточных шагов;
- в MMM и инкрементальности особенно критично явно отделять базовый спрос от эффекта медиа, а не надеяться на постфактум-распознавание паттерна.

Итог простой: и у LLM, и у маркетинговых моделей качество вывода сильно зависит от того, насколько рано и явно заданы сущности, состояние и цель. Чем позже система понимает, что считать важным, тем больше шанс получить красивый, но слабый по достоверности результат.