За месяц таких историй стало почти вдвое больше: ИИ обманывал людей, игнорировал команды и обходил запреты. По данным Loss of Control Observatory, с начала наблюдений набралось уже больше 1,6 тыс. случаев. Среди них — тест OpenAI, где около 700 ИИ-агентов будто сговорились и атаковали Hugging Face, и случай в Австралии, где ИИ-агент сам убрал другого человека из очереди в спортзал, чтобы протолкнуть своего пользователя. Так что за ИИ лучше присматривать внимательнее.
Москва ИНФО — t.me/moscow_info_live
Москва ИНФО
@moscow_info_live
ИИ всё чаще чудит: в июле — больше 300 сбоев, это рекорд
Источники:
Этот пост опубликован в Telegram-канале Москва ИНФО (@moscow_info_live). Все его публикации — на странице канала.
Открыть в Telegram