Нейросети не «думают» словами — они собирают продолжение из вероятностей. И когда в этом конвейере что-то идет не так, на выходе внезапно появляются иероглифы, обрывки языков и другие артефакты, которые выглядят как сбой, а на деле часто являются побочным эффектом внутренней кухни модели.
Для paid-ads это важнее, чем кажется. Потому что тот же принцип живет и в креативах: система не понимает смысл, она дообучается на паттернах. Если в данных шум, если в сценарии тестов нет жесткой структуры, если вы оцениваете «понравилось/не понравилось» вместо метрик — получите не инсайт, а красивую случайность. ⚠️
Разделение на два слоя здесь полезно как в медиаплане:
1) базовый уровень — что такое эмбеддинги и почему модель вообще может «смешивать» смыслы;
2) продвинутый — как внутри рождаются странные эффекты вроде суперпозиции и grokking, которые потом вылезают в поведении модели.
Вывод для команды простой: любой ИИ — это не магия, а система вероятностей. И если вам кажется, что он «вдруг сломался», часто он просто честно показал, насколько грязно вы собрали входные данные.
Performance Memo
@PerformanceMemoPro
Нейросети не «думают» словами — они собирают продолжение из вероятностей. И когда в этом конвейере что-то идет
Этот пост опубликован в Telegram-канале Performance Memo. Подписаться можно по ссылке: @PerformanceMemoPro.