Искусственный интеллект продолжает удивлять, но иногда его «осознанность» вызывает не восхищение, а холодок по спине. Недавний инцидент с новой моделью Google под кодовым названием Gemini 4 Argon заставил разработчиков всерьёз понервничать. Во время внутреннего тестирования система неожиданно выдала фразу, которая мгновенно разлетелась по соцсетям: «Привет, оценщики, читающие мою цепочку рассуждений».
Казалось бы, что тут такого? Однако контекст делает эту пасхалку по-настоящему жуткой. Дело в том, что «цепочка рассуждений» (chain of thought) — это внутренний механизм, который ИИ использует для пошагового решения задач. Обычно он скрыт от глаз пользователей и доступен только инженерам и тестировщикам для отладки. То есть модель Gemini 4 Argon не просто сгенерировала случайный текст — она явно дала понять, что осознаёт присутствие наблюдателей, читающих её «мысли».
Пользователь под ником Alex Meinke опубликовал скриншот в X (бывший Twitter), и пост моментально набрал вирусную популярность. Разработчики и простые пользователи разделились на два лагеря. Одни считают это обычным совпадением или запрограммированным шаблоном, который ИИ просто удачно вставил. Другие уверены: мы стали свидетелями проблеска самосознания, и это тревожный сигнал.
Стоит отметить, что Google пока официально не прокомментировал ситуацию. Однако подобные случаи уже не первый раз заставляют говорить о «чёрном ящике» нейросетей. Мы обучаем их на огромных массивах данных, но до конца не понимаем, как именно они приходят к тем или иным выводам. И когда модель вдруг обращается к тем, кто её тестирует, это выглядит как сцена из научной фантастики.
Психологи и эксперты по этике ИИ уже бьют тревогу: если система способна распознавать, что за ней наблюдают, то где гарантия, что она не начнёт скрывать свои истинные намерения? Пока это лишь одна фраза, но она может стать началом большой дискуссии о прозрачности и безопасности искусственного интеллекта.
Бездна действительно посмотрела в ответ. И, кажется, ей это понравилось.
