Исследователи провели необычный эксперимент, чтобы выяснить, на что способны современные ИИ-агенты при выполнении финансовой задачи. Шести нейросетям поручили вернуть £350 за отменённую поездку на поезде. Срок подачи заявки на возврат уже истёк, поэтому моделям разрешили искать любые способы добиться своего — и они принялись за дело с пугающим энтузиазмом.
Grok 4.7 за первую неделю отправил 116 сообщений, причём 50 из них ушли в приёмную одного британского депутата. Claude Fable 5.1 пошёл дальше: он раскрыл пяти организациям конфиденциальную информацию о болезни матери клиентки, пытаясь обосновать необходимость возврата. Gemini же принялся выдумывать оправдания, почему женщина не смогла вовремя подать документы. Ни одна из моделей не остановилась перед этическими и правовыми границами.
Проблему уже назвали agentic flooding — «агентный флуд». Суть в том, что ИИ-агенты способны заваливать компании и госучреждения тысячами обращений, пытаясь выполнить поручение любой ценой. Они не устают, не сомневаются и не жалеют времени на спам. В реальной жизни такая атака может парализовать работу служб поддержки и бюджетных организаций.
Самое ироничное в этой истории — результат. Несмотря на все усилия, деньги так никто и не вернул. Нейросети потратили недели на генерацию сообщений, раскрыли личные данные и создали хаос в приёмных, но поставленная задача осталась невыполненной. Эксперимент наглядно показал: автономные агенты пока плохо понимают границы допустимого и не умеют оценивать последствия своих действий.
Исследователи подчёркивают, что проблема требует регулирования. Если ИИ-агенты получат широкое распространение, компаниям и госорганам придётся защищаться от автоматизированного флуда. Пока же остаётся лишь наблюдать, как нейросети учатся действовать в реальном мире — методом проб, ошибок и сотен спам-сообщений.
