Мы привыкли думать об искусственном интеллекте как о беспристрастной технологии, лишённой человеческих слабостей. Однако новое исследование, опубликованное в материалах ACM, показывает: гендерные предубеждения никуда не исчезают — они просто переносятся на цифровых агентов.
В эксперименте приняли участие 189 человек. Им предложили поработать в VR-офисе с тремя ИИ-агентами, построенными на одной и той же модели GPT-4, но представленными по-разному: обычным чат-ботом, настольным роботом и «очеловеченным» агентом — либо «мужчиной» Йоханом, либо «женщиной» Йоханной. Участники не только оценивали своих цифровых коллег, но и вознаграждали их реальными деньгами из собственного гонорара.
Результаты оказались показательными. Человекоподобные агенты получили значительно больше денег, чем робот и чат-бот, и пользовались большим доверием. Однако внутри этой группы обнаружился разрыв: несмотря на то, что вклад Йохана и Йоханны в работу оценили примерно одинаково, агенту-женщине платили в среднем на 14% меньше. Более того, «мужчину» участники воспринимали как «более человекоподобного».
Особенно тревожным выглядит тот факт, что 30 из 34 опрошенных участников заявили: гендер агента не повлиял бы на их отношение к ассистенту. Иными словами, люди искренне уверены в своей объективности — но их реальное поведение говорит об обратном.
«Мы часто считаем ИИ нейтральным, но то, как мы разрабатываем и представляем эти системы, может активировать те же самые предубеждения, которые есть в наших взаимоотношениях с людьми», — отмечает соавтор исследования Мэри Хаусфелд.
Этот эксперимент поднимает важные вопросы для разработчиков и компаний. Если даже в контролируемой среде с идентичной моделью ИИ пользователи бессознательно дискриминируют агента по «полу», то что происходит в реальных продуктах — от голосовых ассистентов до систем найма? Очеловечивание ИИ делает взаимодействие комфортнее, но одновременно открывает дверь для переноса всех социальных стереотипов на технологию.
Исследование напоминает: создавая ИИ, мы неизбежно вкладываем в него собственные представления о мире. И если мы хотим по-настоящему нейтрального ассистента, недостаточно просто убрать гендерные маркеры — придётся разбираться с предубеждениями в самих себе.
