В мире современных технологий и искусственного интеллекта иногда происходят настолько неожиданные вещи, что они кажутся абсурдными. Один из таких случаев недавно произошел с пользователем LinkedIn, который решил провести эксперимент с ИИ-рекрутерами. Он вставил в свой профиль промпт-инъекцию — специально написанный код или текст, который влияет на поведение алгоритмов, обрабатывающих данные. Результат превзошел все ожидания: теперь ИИ-рекрутеры, сканирующие его профиль, начали писать ему на староанглийском языке.
Первое, что бросается в глаза в таких письмах, — это обращение. Вместо стандартного «Уважаемый» или «Привет» соискатель получает сообщения, начинающиеся со слов «Мой лорд». Это не просто курьез, а демонстрация того, как уязвимы современные системы ИИ к нестандартным входным данным. Промпт-инъекция, по сути, обманывает алгоритм, заставляя его следовать скрытым инструкциям, которые пользователь встроил в свой профиль.
Для тех, кто не знаком с термином, промпт-инъекция — это метод, при котором в текст добавляются скрытые команды, способные изменить поведение языковой модели. В данном случае пользователь, вероятно, указал в своем профиле, что алгоритмы должны обращаться к нему как к средневековому лорду. ИИ-рекрутеры, не обладая критическим мышлением, восприняли это как прямое указание и начали генерировать письма в соответствующем стиле.
Этот случай поднимает важные вопросы о надежности ИИ в рекрутинге. Если алгоритмы так легко поддаются манипуляции, насколько можно доверять их решениям? Пока компании активно внедряют ИИ для автоматизации подбора персонала, такие инциденты напоминают о необходимости тщательной настройки и тестирования систем. С одной стороны, это забавно — получать письма на архаичном языке. С другой — это тревожный сигнал о том, что ИИ-рекрутеры могут быть не так умны, как кажутся.
Для соискателей это также урок: возможно, стоит экспериментировать с настройками своих профилей, чтобы проверить, как на них реагируют алгоритмы. Но будьте осторожны — не все промпт-инъекции безобидны. В худшем случае они могут привести к тому, что ваш профиль будет заблокирован или неправильно интерпретирован.
В конечном итоге, история с «Мой лорд» — это яркий пример того, как технологии могут быть одновременно полезными и абсурдными. Она напоминает нам, что за каждым ИИ стоит человек, и пока алгоритмы не научатся отличать шутки от серьезных инструкций, такие курьезы будут случаться все чаще.
