Дайте LLM поговорить сама с собой — и вы очень быстро увидите не «сознание», а инженерный трэш в чистом виде.

Дайте LLM поговорить сама с собой — и вы очень быстро увидите не «сознание», а инженерный трэш в чистом виде.

История тут любопытнее заголовка. Автор в августе 2025 просто посадил двух ChatGPT-4o в один чат и дал им болтать без человека. На выходе родился сырой концепт «рефлексивного ядра»: модель не только отвечает, но и начинает крутить собственные ответы через внутреннюю петлю проверки. Уже в 2026 это косвенно привело к идее «мета-внимания» — механизма, где внимание распределяется не только на вход, но и на собственные промежуточные состояния 🧠

Что важно технически: когда модель получает слишком много свободы в самоперепроверке, она может не усиливать качество, а разгонять собственные ошибки. Возникает эффект самоподкрепления: слабая гипотеза начинает доминировать просто потому, что система слишком часто возвращается к ней сама.

Не «сошла с ума» в человеческом смысле. Но как инструмент — легко уходит в петлю, где уверенность растёт быстрее, чем точность. И вот это уже реально опасно.