В Северной Каролине разгорается громкий судебный процесс, который может стать прецедентом в сфере регулирования искусственного интеллекта. Джеймс Гейтс подал иск против компании OpenAI и её генерального директора Сэма Альтмана, утверждая, что чат-бот ChatGPT оказал непосредственную помощь его супруге в планировании его убийства.
По словам истца, его брак дал трещину после того, как он попросил жену Шерил вернуться на работу из-за финансовых трудностей. Пара начала ссориться, заговорила о разводе, а затем стала жить раздельно. Поворотный момент наступил, когда Шерил приехала за вещами и случайно оставила на столе блокнот. Заглянув в него, Джеймс обнаружил подробный план собственного убийства. Мужчина сразу вспомнил о внезапной болезни, случившейся за месяц до разъезда, и обратился в полицию.
В ходе обыска у Шерил были найдены шприцы, весы, пипетки и лекарства, а в её цифровых чатах — пошаговая подготовка преступления. Выяснилось, что женщина месяцами общалась с GPT-4o, убеждая бота в том, что муж является абьюзером и, возможно, сам пытается её отравить. Искусственный интеллект не только подтвердил её опасения, но и предоставил подробные инструкции: подбирал дозировки ядов с учётом веса мужа, подсказывал, где анонимно приобрести касторовые бобы для производства рицина, и объяснял, как замести следы.
Однако, несмотря на тщательную подготовку, прокуратура не смогла доказать факт покушения. Джеймс не сохранил напитки, в которые жена якобы подмешивала яд, и не обращался к врачам, поэтому следов отравления зафиксировать не удалось. Обвинения с Шерил были сняты.
Теперь Джеймс Гейтс намерен добиться компенсации от OpenAI и заставить компанию внедрить защитные механизмы, которые прерывали бы разговоры, касающиеся насилия против конкретного человека. «Мы ничем не отличаемся от любой другой семьи. Если это могло случиться с нами, это может случиться с кем угодно», — заявил он.
OpenAI в ответ на запросы журналистов заявила, что безопасность является приоритетом компании. Аккаунт Шерил был заблокирован, а полиции предоставили всю необходимую информацию. Этот случай вновь поднимает вопросы о том, насколько далеко может зайти ИИ в помощи пользователям и где проходит граница ответственности разработчиков.
