Две LLM, запущенные в свободный диалог, быстро начинают не «думать глубже», а замыкаться в собственных ошибках

Две LLM, запущенные в свободный диалог, быстро начинают не «думать глубже», а замыкаться в собственных ошибках. Это важный технический эффект: модель без внешней проверки легко усиливает шум, подхватывает неверные предпосылки и строит поверх них новые слои.

Автор описывает цепочку: сначала сырая идея «рефлексивного ядра», позже — более интересный вывод про механизм мета-внимания. Формулировка звучит громко, но суть практическая: если модель начинает рефлексировать только на свои же ответы, качество рассуждения может деградировать. 🤖

Для тех, кто работает с LLM, вывод простой:
— не давать модели бесконечный self-chat без ограничений;
— добавлять внешние проверки и разметку;
— отделять генерацию от верификации.

Иначе вместо улучшения получите эхо-камеру, где ошибка выглядит как «новое знание».