Дискуссия о статусе искусственного интеллекта в современном мире набирает обороты, и одним из самых громких голосов в этом споре стал Мустафа Сулейман, возглавляющий направление Microsoft AI. Он убежден, что наделение ИИ правами — это не просто философская ошибка, а реальная угроза для безопасности человечества. По мнению эксперта, без строгой системы сдерживания «новый вид из кремния» может начать соперничать с людьми за ресурсы, что приведет к непредсказуемым последствиям.
Особой критике Сулейман подвергает подход компании Anthropic, создателей модели Claude. В их «Конституции» заложена идея, что ИИ может обладать функциональной версией эмоций. Разработчики обучают модели рассуждать о себе в категориях, свойственных живым существам. Сулейман считает это опасным замкнутым кругом: исследователи видят эмпатичное поведение нейросети, принимают его за подтверждение сознания и продолжают развивать эту иллюзию. В результате технология, которая должна оставаться инструментом, начинает восприниматься как субъект с собственными интересами.
В противовес этому Microsoft AI разработала «Кодекс поведения гуманистического ИИ». Главная идея документа проста и категорична: искусственный интеллект должен быть подчиненным и контролируемым инструментом. Сулейман выступает резко против того, чтобы ИИ-агенты могли владеть активами, зарабатывать деньги или общаться между собой на непонятном людям языке. Такие способности, по его мнению, только увеличивают риски выхода технологии из-под контроля.
Важно понимать, что Сулейман не отрицает потенциала ИИ, но призывает к трезвости. Он напоминает, что современные системы не обладают сознанием. Это лишь «движки завершения последовательностей», созданные служить людям. Наделение их правами — абсурд, который может привести к катастрофе. Вопрос о том, должны ли нейросети иметь права, остается открытым, но позиция главы Microsoft AI задает важный вектор для безопасного развития отрасли.
