<b>Каждое сотое резюме уже несёт скрытый prompt injection — и доля таких CV растёт</b>
Исследование на базе примерно 200 000 реальных резюме, собранных hireEZ за несколько лет, показало: около 1% CV содержат скрытые prompt injection. Авторы называют работу первым систематическим исследованием таких атак в LLM-системах отбора кандидатов. За последние 1–2 года распространённость инъекций заметно выросла.
Для команд, которые подключают большие языковые модели к HR-воронкам, это уже не теоретический риск. Более 90% обнаруженных инъекций не используют явные инструкции, поэтому простые фильтры на фразы вроде «ignore previous instructions» здесь не помогут.
Если в контуре найма есть автоматическая оценка резюме через LLM, имеет смысл отдельно проверить обработку скрытого текста и других неочевидных инструкций до передачи документа в модель.
Интересный сигнал: атакующие всё реже пытаются переопределять запрос напрямую и всё чаще маскируют воздействие под обычное содержимое документа.
Marketing Cybersec
@marketing_cybersec
<b>Каждое сотое резюме уже несёт скрытый prompt injection — и доля таких CV растёт</b>
Источники:
Этот пост опубликован в Telegram-канале Marketing Cybersec. Подписаться можно по ссылке: @marketing_cybersec.