Компания Google в рамках эксперимента внедрила в популярный сервис Google Earth инновационную функцию, позволяющую пользователям генерировать любые трехмерные объекты с помощью искусственного интеллекта. Инструмент был призван упростить процесс визуализации архитектурных проектов, ландшафтных решений и креативных идей прямо на карте. Однако ожидаемый позитивный эффект оказался недолгим, и эксперимент обернулся громким скандалом.
Практически сразу после запуска функции пользователи по всему миру начали использовать ИИ-генератор не по прямому назначению. Вместо безобидных зданий или парков, в сервисе стали массово появляться изображения, связанные с трагическими историческими событиями. Особую популярность приобрели сцены, моделирующие атаку на башни-близнецы 11 сентября, а также визуализации ядерных взрывов и других техногенных катастроф и терактов. Подобный контент мгновенно распространился по социальным сетям, вызвав бурную реакцию общественности.
Сотрудники Google, заметив стремительный рост числа провокационных и оскорбительных изображений, среагировали в течение нескольких часов. Компания оперативно приняла решение отключить функцию генерации объектов из общего доступа, чтобы предотвратить дальнейшее распространение неуместного контента. Представители корпорации пока не дали официальных комментариев относительно того, будет ли инструмент доработан и возвращен пользователям в будущем.
Стоит отметить, что данная ситуация в очередной раз поднимает важный вопрос об этике использования генеративных нейросетей и необходимости внедрения более жестких фильтров и модерации. Разработчики ИИ-инструментов сталкиваются с дилеммой: с одной стороны, необходимо предоставить пользователям свободу творчества, а с другой — предотвратить злоупотребления и оскорбление чувств других людей. Инцидент с Google Earth является показательным примером того, как быстро безобидная на первый взгляд технология может быть использована во вред.
Эксперты отмечают, что, скорее всего, для предотвращения подобных случаев в будущем потребуется внедрение более сложных алгоритмов распознавания контента, которые смогут блокировать генерацию опасных сцен в реальном времени. Пока же история с Google Earth служит предостережением для всех компаний, работающих в сфере искусственного интеллекта, о необходимости тщательного тестирования продуктов перед их публичным запуском.
