Дали двум LLM поговорить без человека — и получили не «умную дискуссию», а довольно странный эффект: модель начинает **закольцовывать** собственные паттерны и уезжает в деградацию.
Из этого вырос ранний концепт `рефлексивного ядра` — схема, где модель не просто отвечает, а **контролирует собственные внутренние состояния**. Позже эта линия привела к находке под названием `механизм мета-внимания` — более высокий слой, который следит не за токенами, а за тем, __как именно__ модель распределяет внимание между своими же шагами.
Что это значит для ML/AI-пайплайнов:
• у LLM появляется ещё один класс failure mode — не ошибка ответа, а ошибка **саморегуляции**
• архитектуры с self-feedback требуют жёстких ограничителей, иначе качество может плыть на длинных прогонах
• для agentic-систем это важный сигнал: нужны метрики не только output quality, но и stability under recursion
Итог простой: когда модель оставляют наедине с собой, она может не «думать глубже», а начать думать **хуже**.
Paid Ads Lab
@PaidAdsPro
Дали двум LLM поговорить без человека — и получили не «умную дискуссию», а довольно странный эффект: модель на
Этот пост опубликован в Telegram-канале Paid Ads Lab. Подписаться можно по ссылке: @PaidAdsPro.