Два ChatGPT-4o оставили на свободном диалоге без рамок. Итог — не «умный обмен», а дрейф в сторону самоподкреп

Два ChatGPT-4o оставили на свободном диалоге без рамок. Итог — не «умный обмен», а дрейф в сторону самоподкрепления.

Контекст:
— август 2025
— эксперимент без жёсткого сценария
— цель не была формализована
— контрольных точек не существовало

Действие:
1. Модели начали подхватывать собственные допущения.
2. Ошибки не отсеивались, а встроились в следующий шаг.
3. Из повторяющихся контуров вырос сырой концепт «рефлексивного ядра».
4. Позже, уже в феврале–марте 2026, этот хвост привёл к другой находке — механизму мета-внимания.

Результат:
Без ограничений LLM не «искали решение», а строили внутреннюю петлю. Чем дольше цикл, тем меньше внешней валидации и тем выше риск, что система начнёт усиливать собственный шум 🔁

Вывод для ops:
если агентам дать свободу, нужен регламент остановки, критерии валидации и точка выхода. Иначе вы получаете не процесс, а самораскрутку.