В американском штате Кентукки разразился скандал, который заставляет задуматься о границах применения искусственного интеллекта в образовании. Учащимся средней школы Фарнсли в первый учебный день раздали ежедневники, содержащие десятки грубейших ошибок в справочных материалах. Вместо привычных карт и таблиц школьники обнаружили настоящий «словарь галлюцинаций» нейросети.
Первыми тревогу забили родители одного из учеников. Внимательное изучение пособия выявило целый пласт абсурдных неточностей. Так, на карте штата Кентукки был подписан как «Венекки». Соседние регионы также пострадали: вместо Северной Дакоты появилась «Северная Дахота», Оклахома превратилась в «Олкчому», а Техас — в «Тахас». Помимо искаженных названий, на карте возникла несуществующая территория «Бихи» рядом с Вашингтоном, а кубинская Гавана была перенесена на мексиканский полуостров Юкатан.
Однако географические казусы — лишь вершина айсберга. В таблице Менделеева магнию приписали отрицательную атомную массу (-3,08 вместо реальных 24). Изображение фаз Луны содержало бессмысленные символы, а Марс в схеме Солнечной системы был подписан как «Marc» (при том, что на английском планета называется Mars). Некоторые пояснительные тексты и вовсе выглядели как бессвязный набор слов, лишенный логики.
Родители сразу предположили, что материалы были сгенерированы нейросетями. Школьный округ официально признал наличие ошибок, однако не подтвердил и не опроверг использование ИИ. Вместо полноценного расследования и замены пособий администрация школы выбрала радикальный, но простой метод — распорядилась просто вырвать страницы с ошибками из ежедневников.
Этот инцидент поднимает важный вопрос: готовы ли алгоритмы заменить человека в создании образовательного контента? С одной стороны, нейросети способны быстро генерировать большие объемы текста и структурировать информацию. С другой — они склонны к «галлюцинациям», выдавая вымышленные факты за достоверные. В сфере, где точность данных имеет критическое значение, подобные ошибки недопустимы.
Пока одни спорят о перспективах ИИ в школах, другие уже получили наглядный пример того, к чему приводит слепое доверие технологиям. История в Кентукки — предостережение для всех образовательных учреждений, решивших сэкономить на редакторах и корректорах. Очевидно, что на данном этапе развития нейросети могут быть лишь вспомогательным инструментом, но никак не заменой профессиональной проверки фактов.
