Google в очередной раз доказал, что даже самые продвинутые нейросети могут быть использованы не по назначению. Компания внедрила в свои карты новую функцию под названием Nano Banana 2, позиционируя её как инструмент для «креативного взгляда на мир». Идея казалась безобидной: пользователь наводит камеру на реальную локацию, а искусственный интеллект генерирует поверх неё художественные или забавные элементы, делая окружающую действительность чуточку интереснее. Однако на практике всё пошло совсем не по сценарию маркетологов.
С самого запуска стало очевидно, что значительная часть аудитории восприняла новинку не как игрушку для творчества, а как мощный инструмент для создания дезинформации. Вместо того чтобы дорисовывать котятам усы или превращать обычные дома в замки, пользователи принялись генерировать изображения сцен катастроф и военных действий. В социальных сетях мгновенно распространились ролики и скриншоты, где Google Карты «показывали» последствия ударов атомных бомб по мирным городам, разрушенную военную инфраструктуру и другие апокалиптические сюжеты, наложенные на реальную местность.
Ситуация вышла из-под контроля стремительно. Фейковые изображения выглядели настолько реалистично, что могли легко ввести в заблуждение неподготовленного зрителя. Учитывая высокую скорость распространения информации в сети, такие «картинки» представляли собой реальную угрозу для общественного спокойствия и могли спровоцировать панику. Осознав масштаб проблемы, руководство корпорации приняло экстренное решение: функция была отключена практически сразу после внедрения, буквально в течение суток.
Этот инцидент в очередной раз поднимает важный вопрос об ответственности технологических гигантов за внедрение генеративных нейросетей. Разработчики, очевидно, просчитались, недооценив изобретательность пользователей и их желание использовать ИИ для создания провокационного контента. Кейс с Nano Banana 2 стал наглядным примером того, что любые инструменты на основе искусственного интеллекта требуют не только технической, но и этической модерации, а также более тонкой настройки фильтров до того, как они попадут в руки миллионной аудитории. Пока же Google предстоит серьёзная работа над ошибками, прежде чем они снова рискнут выпустить подобную функцию в свет.
