Книга об угрозе ИИ для правды оказалась наполнена сгенерированными нейросетями выдумками

Автор новой книги «Будущее истины» Стивен Розенбаум столкнулся с профессиональным скандалом. Издание, посвященное влиянию искусственного интеллекта на достоверность информации и общество, само оказалось переполнено вымышленными и ошибочно приписанными цитатами, созданными с помощью алгоритмов ИИ.

Ирония судьбы или ошибка автора

Ранее в Wired был опубликован отрывок из книги Розенбаума, где автор рассуждает о том, как поколение Z формирует новое понимание правды, полагаясь на эмоциональные маркеры и проверку через социальные сети вместо традиционных институциональных источников. В материале высказывалось опасение, что современные методы восприятия информации могут вести к эрозии доверия.

Однако расследование The New York Times показало, что в тексте книги содержится более полудюжины сфабрикованных цитат. Ситуация приобрела комичный оборот, когда Розенбаум попытался оправдать допущенную ошибку, заявив, что этот инцидент лишь подтверждает тезисы его работы.

• Автор настаивает, что произошедшее служит предупреждением о рисках, связанных с использованием ИИ для исследований и проверки фактов.
• По утверждению писателя, выявленные ошибки не умаляют глобальных вопросов, поднятых в книге относительно будущего демократии и редакционной ответственности.

Критика подхода к технологиям

Эксперты отмечают, что попытка выдать собственную халатность за иллюстрацию к теме книги выглядит неубедительно. Проблема заключается не в самих инструментах искусственного интеллекта, а в готовности некоторых авторов использовать их как способ избежать глубокой исследовательской работы и перекладывать ответственность за проверку фактов на алгоритмы.

Наблюдатели подчеркивают, что скепсис молодежи по отношению к ИИ часто является рациональной реакцией на попытки взрослых использовать технологии для упрощения процессов, требующих экспертного участия. В отличие от опасений, выраженных в книге Розенбаума, поколение Z зачастую более критично оценивает возможности нейросетей, осознавая их ограничения, в то время как старшее поколение склонно искать в ИИ способы для поиска «быстрых решений» и автоматизации интеллектуального труда.

* — деятельность компании запрещена на территории РФ