Пять попыток дообучить детектор промпт-инъекций, четыре срыва и только один релиз без сюрпризов. В разборе — как собирать и размечать корпус на живом корпоративном трафике, почему рост точности может внезапно просадить ловлю атак и какие гейты реально помогают не уронить прод. Для айтишников Екатеринбурга тут особенно полезен практический кусок: как не тащить в прод модель с регрессом и где смотреть на метрики, а не на красивый процент.
IT Екатеринбург — t.me/it_ekaterinburg
IT Екатеринбург
@it_ekaterinburg
Детектор промпт-инъекций: 5 раундов, 4 отката и один удачный релиз
Источники:
Этот пост опубликован в Telegram-канале IT Екатеринбург (@it_ekaterinburg). Все его публикации — на странице канала.
Открыть в Telegram