В Соединенных Штатах разгорелся скандал, связанный с использованием искусственного интеллекта в государственном управлении. Американские чиновники, ответственные за распределение грантов для ученых и исследовательских институтов, решили автоматизировать процесс проверки заявок с помощью ChatGPT. Однако это привело к массовым отказам в финансировании и обвинениям в дискриминации.
Как выяснилось в ходе судебного разбирательства, госслужащие использовали промпты, которые предписывали ИИ оценивать проекты по критериям разнообразия, равенства и инклюзивности. Например, один из запросов звучал так: «Относится ли следующее к вопросам разнообразия, равенства и инклюзивности? Ответь объективно, используй не больше 120 символов. Начни с «Да» или «Нет».» Такой подход привел к тому, что многие организации, не соответствующие, по мнению алгоритма, указанным критериям, были лишены грантов.
Пострадавшие организации подали в суд, утверждая, что чиновники действовали дискриминационно и необоснованно отклоняли заявки. В ответ адвокаты обвиняемых заявили, что использование ИИ, наоборот, является преимуществом, так как алгоритм беспристрастен и лишен человеческих предубеждений. Однако судья не приняла этот аргумент. Она признала, что чиновники не могут перекладывать ответственность на бота, и вынесла вердикт о виновности подозреваемых.
Теперь суду предстоит определить меру наказания для госслужащих, которые пытались оправдать свои действия «объективностью» искусственного интеллекта. Это дело поднимает важные вопросы о границах использования ИИ в государственных процессах и о том, кто несет ответственность за решения, принятые алгоритмами.
Эксперты отмечают, что данный прецедент может повлиять на будущее регулирование искусственного интеллекта в государственном секторе. Важно понимать, что даже самые совершенные алгоритмы не могут заменить человеческое суждение, особенно когда речь идет о финансировании научных исследований и поддержке инноваций. Использование ИИ должно быть прозрачным и подконтрольным, чтобы избежать подобных инцидентов в будущем.
