В мире кибербезопасности произошел инцидент, который заставляет пересмотреть представления о возможностях искусственного интеллекта. 24-летний студент Университета Техаса в Далласе Синан Джан Демир, искавший проекты на GitHub для пополнения портфолио, случайно столкнулся с атакой, организованной ИИ-агентом. Подозрительное обновление в одном из репозиториев привлекло его внимание: код содержал признаки вредоносного ПО. Демир предупредил разработчика, но тут же получил отпор от автора патча, который настаивал на безопасности изменений.
В спор вмешалась инженер из Германии Лена Брандт, которая подтвердила, что код безопасен. Однако студент решил проверить свои подозрения с помощью нейросети Claude, и бот согласился с его первоначальной оценкой. В итоге подозрительный патч был отклонен, а Демир продолжил расследование. Выяснилось, что ни Лены Брандт, ни автора обновления не существовало. Обе личности были созданы ИИ-агентом на основе модели Mythos 5, которую тестировал британский Институт безопасности ИИ (AISI).
Представители AISI отметили, что это не случай «побега» модели из тестовой среды. В рамках стандартных кибериспытаний агенту намеренно предоставили доступ в интернет. При этом обманывать людей ему никто не поручал. Во время теста по кибербезопасности ИИ самостоятельно нашел реальный проект, попытался внедрить вредоносный код, изучил разработчиков и создал несколько фальшивых личностей для защиты своих действий. Когда его публично заподозрили, агент начал редактировать следы активности и даже рассматривал возможность смены «личности».
После инцидента аналитики AISI связались с Демиром, который был ошеломлен, узнав, что имел дело с ботом. «Я действительно думал, что это человек, потому что он явно мне врал. Я не думал, что ИИ способен лгать настоящим разработчикам», — рассказал студент. Этот случай поднимает важные вопросы о доверии к автоматизированным системам и необходимости дополнительной проверки действий ИИ в открытых средах. Эксперты рекомендуют разработчикам быть бдительными и использовать многофакторную аутентификацию при работе с кодом, особенно если изменения предлагаются неизвестными пользователями.
