Anthropic 11 месяцев собирала чаты с отключёнными фильтрами по биооружию: в выборку попали 133 млн сообщений от 50 000 подрядчиков, и их не проверяли отдельно.
История всплыла после публикации о внутренних процессах. Для айтишников это хороший повод вспомнить простое правило: любые чувствительные данные в ИИ-сервисах лучше считать потенциально видимыми и заранее ограничивать доступ, логи и обучение на таких чатах.
IT Набережные Челны — t.me/it_chelny
IT Челны
@it_chelny
Anthropic 11 месяцев собирала чаты с отключёнными фильтрами по биооружию: в выборку попали 133 млн сообщений о
Источники:
Этот пост опубликован в Telegram-канале IT Челны. Подписаться можно по ссылке: @it_chelny.