В мире технологий произошёл случай, который одновременно шокирует и заставляет задуматься. Автор книги «Будущее правды: Как ИИ трансформирует реальность» Стивен Розенбаум оказался в центре скандала: часть цитат в его произведении оказалась выдумана искусственным интеллектом. Розенбаум признал, что галлюцинации «случайно попали в текст» во время редактирования рукописи с помощью ChatGPT и Claude.
Ирония ситуации в том, что книга посвящена тому, как ИИ влияет на наше восприятие фактов и доверие к информации. Сам автор стал жертвой технологии, которую критикует. Журналистка Кара Суишер обнаружила, что ей приписали высказывание, которое она никогда не делала: «самая сложная модель ИИ подобна зеркалу: отражает нашу мораль, отполированную и красноречивую, но в конечном итоге пустую под поверхностью». Суишер едко прокомментировала, что в версии ChatGPT её голос звучит так, будто у неё «палка в заднице».
Розенбаум попытался обратить скандал в свою пользу, заявив, что эта история служит дополнительным подтверждением тезисов книги. Вымышленные цитаты, которые он не заметил, стали наглядным предупреждением о рисках использования ИИ. Автор пообещал исправить ошибки в будущих изданиях.
Этот случай поднимает важный вопрос: нужно ли маркировать книги, написанные с помощью ИИ? Мнения разделились. Одни считают, что читатель должен знать о происхождении текста. Другие полагают, что в скором времени все будут использовать нейросети, и маркировка потеряет смысл. Пока же история Розенбаума остаётся ярким примером того, как легко довериться технологии и потерять контроль над фактами.
