Marketing Cybersec
Marketing Cybersec
@marketing_cybersec

<b>Каждое сотое резюме уже несёт скрытый prompt injection — и доля таких CV растёт</b>

<b>Каждое сотое резюме уже несёт скрытый prompt injection — и доля таких CV растёт</b>

Исследование на базе примерно 200 000 реальных резюме, собранных hireEZ за несколько лет, показало: около 1% CV содержат скрытые prompt injection. Авторы называют работу первым систематическим исследованием таких атак в LLM-системах отбора кандидатов. За последние 1–2 года распространённость инъекций заметно выросла.

Для команд, которые подключают большие языковые модели к HR-воронкам, это уже не теоретический риск. Более 90% обнаруженных инъекций не используют явные инструкции, поэтому простые фильтры на фразы вроде «ignore previous instructions» здесь не помогут.

Если в контуре найма есть автоматическая оценка резюме через LLM, имеет смысл отдельно проверить обработку скрытого текста и других неочевидных инструкций до передачи документа в модель.

Интересный сигнал: атакующие всё реже пытаются переопределять запрос напрямую и всё чаще маскируют воздействие под обычное содержимое документа.
Источники:
Этот пост опубликован в Telegram-канале Marketing Cybersec. Подписаться можно по ссылке: @marketing_cybersec.
start

Готовы запустить рекламу через сеть public.tg?

Новый оффер, продукт, GEO, кейс, событие или партнёрский запуск — соберём маршрут под задачу и отдадим медиаплан.

Telegram для медиаплана: @dumay. Быстрый тест: $20 за канал, $99 за пакет по сети.