В Бразилии разгорается скандал вокруг использования искусственного интеллекта: 36-летний фермер оказался под стражей после того, как система безопасности OpenAI зафиксировала его переписку с ChatGPT и передала информацию в ФБР. Мужчина почти два месяца обсуждал с чат-ботом планы убийства собственного восьмилетнего сына. Одним из мотивов, по версии следствия, стало нежелание платить алименты.
По данным правоохранительных органов, в ходе диалога с ИИ фермер интересовался действием токсичных веществ и якобы заявлял о намерении напасть на школы, церкви и полицейских. Автоматические системы мониторинга OpenAI выявили потенциальную угрозу и уведомили ФБР, которое, в свою очередь, связалось с бразильскими властями. Представители компании поясняют: они могут обратиться к правоохранителям, если видят «непосредственную и реальную угрозу» для других людей.
Мужчину задержали 19 июня — по версии полиции, убийство он планировал совершить уже на следующий день. При обыске у него обнаружили четыре ёмкости с неизвестным веществом и верёвку. Однако спустя 54 дня подозреваемого отпустили под домашний арест. Расследование продолжается, официальные обвинения ему пока не предъявлены.
Адвокат фермера Педру Паулу Песси выступил с резкой критикой действий властей: «Если разговаривать с ИИ и нести всякую чушь — преступление, то посадят всех». Защита настаивает, что сам факт общения с чат-ботом не может служить доказательством преступных намерений.
Серьёзной проблемой стала неполнота переданных данных. OpenAI предоставила полиции только сообщения пользователя, но не ответы самого ChatGPT. Юристы отмечают: без полной переписки оценить контекст и реальность угроз практически невозможно. Ответы бота могли провоцировать или подталкивать мужчину к высказываниям, которые теперь трактуются как признание.
Инцидент поднимает острый вопрос: должны ли компании, разрабатывающие ИИ, сообщать властям о подозрительных разговорах пользователей? Сторонники безопасности настаивают, что при реальной угрозе жизни молчать нельзя. Правозащитники же видят в этом нарушение приватности и опасный прецедент слежки за частными беседами с алгоритмами. Пока однозначного ответа нет — но дело бразильского фермера может стать важным юридическим прецедентом для всего мира.
