Дал двум ChatGPT-4o пообщаться без человека между ними — и, сюрприз, система быстро начала галлюцинировать уже не ответами, а собственной логикой. Из этого вырос сырой концепт «рефлексивного ядра», а позже — идея мета-внимания.
В агентском мире это читается слишком знакомо: если оставить подрядчика, модель или внутреннюю команду без нормальной внешней рамки, они начинают не оптимизировать задачу, а дорабатывать свою же картину мира. Красиво, убедительно, бесполезно. 🤷♂️
Для нас здесь урок простой: LLM — не «умный сотрудник», а усилитель среды. Если в контуре есть слабая постановка, нет проверки фактов и не задана граница саморазгона, получите не инсайт, а очень дорогую имитацию мышления.
И да, это уже не про нейросети. Это про любой процесс, где людям лень ставить ограничители.
Agency Digest
@AgencyDigestHub
Дал двум ChatGPT-4o пообщаться без человека между ними — и, сюрприз, система быстро начала галлюцинировать уже
Этот пост опубликован в Telegram-канале Agency Digest. Подписаться можно по ссылке: @AgencyDigestHub.