Два ChatGPT-4o оставили без присмотра — и они, как будто, не «поболтали», а начали крутить один и тот же вопро

Два ChatGPT-4o оставили без присмотра — и они, как будто, не «поболтали», а начали крутить один и тот же вопрос по кругу, пока не вытащили сырой, но любопытный концепт: «рефлексивное ядро».

Я слышал похожие истории и в адтехе: дайте двум системам чуть свободы — и они либо оптимизируют метрику, либо начинают её ломать. Здесь вышло почти так же. Сначала был просто цикл обмена ответами, потом появилось само-обсуждение, а позже — уже другой уровень: механизм мета-внимания. 🤯

Самое интересное не в том, что LLM «сошла с ума». Интересно другое: при длинной петле без внешнего стоп-сигнала модель начинает не отвечать, а переизобретать собственную логику. Это уже не генерация текста, а внутренняя эскалация структуры.

Похоже на A/B-тест без лимита бюджета: если не поставить рамку, система сама найдёт, что ей “эффективно” — даже если вам это потом придётся разбирать вручную.