Два ChatGPT-4o посадили болтать друг с другом — и получили не «диалог», а кривое зеркало.

Два ChatGPT-4o посадили болтать друг с другом — и получили не «диалог», а кривое зеркало.

Суть трюка простая: одна модель отвечает, вторая подхватывает, дальше они начинают не столько обмениваться фактами, сколько подстраивать друг друга под свой же паттерн. Если не жёстко резать цикл, растёт не качество ответа, а самоподкрепление мусора. В итоге автор назвал это «рефлексивным ядром» — по сути, контур, где модель начинает использовать собственные следы как входные данные. 🧠

Почему это важно не только для AI-фанов? Потому что это ровно тот же класс проблемы, что и в рекламных системах с замкнутой оптимизацией: алгоритм смотрит на собственные предсказания, усиливает их, а потом уверен, что это «сигнал рынка». Если не вводить внешнюю проверку, ты получаешь не интеллект, а эхо.

Позже из этого вытащили идею «мета-внимания»: механизм, который смотрит не только на токены, но и на то, как сама модель распределяет внимание. И да, это уже похоже на инженерный инструмент, а не на философский туман. ⚙️

Вывод жёсткий: если система учится только на себе, она не умнеет. Она начинает красиво повторять собственные ошибки.