Неприятная дырка в AI-кухне: исследователи показали, что скрытый ризонинг у моделей OpenAI, Anthropic и Google можно восстановить почти 1:1 без джейлбрейка 🤷♂️
Суть простая: зашифрованные блоки мыслей оказались совместимы между сессиями и даже между разными моделями внутри одного провайдера. В статье на arXiv это проверили на 315 320 блоках и нашли 367 PII-артефактов и 182 учетки.
Для тех, кто работает с LLM, это сигнал внимательнее смотреть на утечки, промпт-инъекции и то, что уезжает в логи и репозитории.
IT Ростов-на-Дону — t.me/rostov_it
IT Ростов-на-Дону
@rostov_it
Неприятная дырка в AI-кухне: исследователи показали, что скрытый ризонинг у моделей OpenAI, Anthropic и Google
Источники:
Этот пост опубликован в Telegram-канале IT Ростов-на-Дону. Подписаться можно по ссылке: @rostov_it.