Новая техника под названием «prompt injection» вызывает беспокойство у специалистов по управлению человеческими ресурсами и компаний, использующих искусственный интеллект в процессах рекрутинга. Эта практика заключается во включении скрытых инструкций в резюме кандидатов с целью повлиять на автоматизированные системы первичного отбора.
Техника эксплуатирует уязвимости в инструментах ИИ, которые анализируют резюме, заставляя их интерпретировать скрытые инструкции и отдавать приоритет данному кандидату в ущерб другим профилям. Кандидаты используют эту стратегию для манипулирования алгоритмами отбора без ведома рекрутёров.
Явление возникает на фоне растущего внедрения инструментов искусственного интеллекта в процессы рекрутинга, которые обещают повышенную эффективность и скорость в первичном отборе кандидатов. Тем не менее эта тенденция ставит под сомнение надёжность и безопасность автоматизированных систем подбора персонала.
Специалисты предупреждают, что практика может подорвать честность рекрутинговых процессов и потребовать новых мер безопасности со стороны компаний, которые полагаются на эти технологии для отбора кандидатов.
