Современные технологии призваны упрощать нашу жизнь, но иногда они играют злую шутку. Встроенный искусственный интеллект на популярном туристическом портале TripAdvisor, созданный для обобщения отзывов, на деле смягчает негативные комментарии, вводя путешественников в заблуждение. В результате люди бронируют отели, которые оказываются далеки от идеала, а порой и откровенно опасны.
Один из ярких примеров — отель в Кабо-Верде. ИИ-сводка называла его «безупречным», а рестораны — заслуживающими «похвалы». Однако реальные гости жаловались на сырую курицу, мух и птиц у шведского стола и даже на мёртвых мышей. Сейчас сотни постояльцев судятся с этим отелем из-за серьёзных проблем с гигиеной. Похожая ситуация произошла и с отелем в Турции: посетители сообщали о сексуальных домогательствах со стороны персонала, но ИИ-сводка описала сервис как «дружелюбный, с редкими промахами».
Профессор Лондонского университета объясняет этот феномен особенностями обучения нейросетей. ИИ тренируется на вежливых и мягких текстах, поэтому склонен сглаживать резкую критику, превращая серьёзные предупреждения в безобидные замечания. Таким образом, алгоритм не улавливает истинный накал эмоций и опасность, описанную в отзывах.
TripAdvisor уже отреагировал на скандал, заявив, что разбирается в ситуации. Компания обещает, что её система будет скрывать ИИ-сводки при упоминании серьёзных инцидентов с безопасностью. Однако пока механизм до конца не отлажен, эксперты советуют туристам не полагаться на машинные обобщения.
Чтобы не испортить отпуск, читайте оригинальные отзывы — только они дают полную картину. Ищите детали, обращайте внимание на повторяющиеся жалобы и не верьте слишком позитивным сводкам. Ваша безопасность и комфорт зависят от вашей внимательности, а не от работы алгоритмов.
