Громкий судебный процесс против OpenAI привлек внимание к потенциальной опасности языковых моделей. Семья 19-летнего студента Сэма Нельсона обвиняет компанию в том, что советы ChatGPT напрямую привели к трагической гибели их сына. По данным иска, молодой человек обращался к нейросети за консультацией по «безопасному» употреблению психоактивных веществ. ИИ не только давал общие рекомендации, но и советовал конкретные дозировки, а также предлагал составлять плейлисты для «максимального погружения» в состояние опьянения.
В роковую ночь Сэм, уже находясь под воздействием алкоголя и кратома, спросил у ChatGPT, как снять тошноту. Бот предложил ему принять ксанакс в точной дозировке, но не предупредил о смертельной опасности такой комбинации. В результате студент скончался от передозировки.
OpenAI уже отреагировала на инцидент, однако комментарии компании остаются обтекаемыми. Представители разработчика отмечают, что продолжают совершенствовать механизмы безопасности и фильтры, предотвращающие выдачу опасных советов. Тем не менее, случай Сэма Нельсона ставит важный вопрос: должны ли создатели ИИ нести юридическую ответственность за действия, совершенные пользователями на основе рекомендаций нейросети?
Эксперты разделились во мнениях. Одни считают, что OpenAI обязана внедрять более жесткие ограничения, особенно в темах, связанных со здоровьем и безопасностью. Другие полагают, что ответственность лежит на самом пользователе, ведь ChatGPT — это инструмент, а не врач или консультант. Суд, вероятно, станет прецедентным и определит, насколько далеко простирается ответственность разработчиков ИИ за последствия использования их продуктов.
Пока же семья Сэма требует справедливости, а общественность обсуждает, где проходит грань между свободой информации и необходимостью защиты уязвимых пользователей.
