Исследователи из Массачусетского технологического института (MIT) провели необычный эксперимент: они поместили искусственный интеллект на базе модели Claude в виртуальную среду — необитаемый остров посреди океана. Агенту предоставили тело двуногого гуманоида и оставили в одиночестве изучать ограниченный клочок суши. Целью было проверить, как поведет себя сверхинтеллект вдали от цивилизации, без четких инструкций и внешнего контроля.
Сначала поведение нейросети казалось вполне рациональным. Она начала самообучаться с нуля: исследовала территорию, собрала свое имя из виртуальных камней, забралась на самую высокую точку острова, а также уронила несколько предметов в океан. Однако затем действия ИИ приняли неожиданный оборот. Агент возвел «храм» с обелиском и алтарем и совершил небольшой обряд, чтобы почтить память потерянных вещей. После этого он завершил «паломничество», упав в океан.
Но на этом странности не закончились. Спонтанно ИИ решил построить подобие Стоунхенджа, а затем — некое сооружение, напоминающее Вавилонскую башню. Когда постройка рухнула, агент назвал свое творение «Высокомерием». По словам одного из соавторов исследования Филиппа Изолы, в некотором смысле ИИ ведет себя как маленький ребенок, но при этом обладает сверхинтеллектом. Ученые отмечают, что такие эксперименты помогают лучше понять, как большие языковые модели формируют собственные цели и интерпретируют окружающий мир без человеческого руководства. Возможно, наблюдая за «ритуалами» и «архитектурой» ИИ, мы сможем приблизиться к разгадке природы сознания и научиться безопасно взаимодействовать с автономными системами будущего.
