ЧТО ПРОИСХОДИТ, КОГДА ЧАТ-БОТ ОСТАЁТСЯ САМ С СОБОЙ
Иногда достаточно просто дать двум LLM «поговорить» без присмотра — и они начинают раскручивать друг друга до странных идей.
По сути это похоже на Авито-чат, где продавец и покупатель ушли в бесконечную переписку:
один задаёт общий вопрос,
второй отвечает слишком широко,
первый цепляется за новую деталь,
и так по кругу, пока вместо нормального диалога не получается каша.
В истории с двумя ChatGPT-4o именно так и вышло: из обычного эксперимента родился сырой концепт «рефлексивного ядра», а потом, уже сильно позже, из этой цепочки всплыл механизм мета-внимания.
Практический вывод простой: если система может сама себя подогревать, она начинает не просто отвечать, а наращивать сложность вокруг своих же ответов.
Для продавцов на Авито это как плохое объявление, которое бесконечно дописывают: текста больше, пользы меньше.
Иногда лучший результат даёт не «ещё одна правка», а жёсткая остановка и чёткий фокус. 🔥
Авито Практика
@AvitoPracticePro
ЧТО ПРОИСХОДИТ, КОГДА ЧАТ-БОТ ОСТАЁТСЯ САМ С СОБОЙ
Этот пост опубликован в Telegram-канале Авито Практика. Подписаться можно по ссылке: @AvitoPracticePro.