Папа римский Лев XIV представил манифест об этике искусственного интеллекта

В своем первом масштабном папском послании под названием «Magnifica Humanitas» понтифик выразил серьезную обеспокоенность рисками, связанными с развитием искусственного интеллекта. Документ посвящен вопросам защиты человеческого достоинства в эпоху цифровых технологий и призывает к созданию жесткой правовой и этической базы для контроля над ИИ.

Предупреждение о технологических угрозах

В тексте энциклики — официального послания папы римского к верующим — подчеркивается, что стремительное внедрение нейросетей провоцирует социальные и экономические потрясения. Лев XIV проводит аналогию между современным развитием ИИ и библейской Вавилонской башней. По мнению понтифика, общество рискует поддаться «синдрому Вавилона» — культу прибыли, который приносит в жертву интересы слабых и пытается свести многообразие человеческой личности к набору данных и метрик эффективности.

Основные положения документа затрагивают наиболее критические аспекты влияния алгоритмов на жизнь общества:

• Риски массовой потери рабочих мест из-за автоматизации
• Проблема использования автономных систем в военных конфликтах
• Опасности бесконтрольного доступа детей к ИИ-инструментам
• Необходимость ставить человеческие ценности во главу угла при принятии решений

Предложения по регулированию отрасли

Масштабный документ объемом около 115 страниц призывает к «осмотрительности, строгой оценке и замедлению темпов» внедрения технологий. Среди ключевых инициатив, выдвинутых Ватиканом, выделяются следующие:

• Разработка социальных критериев для автоматизации, включая государственные программы переобучения для сотрудников, чьи должности попали под сокращение
• Запрет на делегирование решений о применении смертоносной силы непрозрачным компьютерным системам
• Обучение педагогов и студентов навыкам критического взаимодействия с новыми технологиями
• Внедрение принципов прозрачности и подотчетности при использовании алгоритмов в сфере найма или доступа к услугам
• Переход к созданию экологически устойчивых вычислительных мощностей

Диалог с технологическим сектором

Выбор папского имени связан с историей индустриальной революции и энцикликой Льва XIII, который в свое время защищал права рабочих. Нынешний глава католической церкви активно взаимодействует с представителями технологической индустрии. Сообщается, что перед публикацией документа представители Amazon, Google и Meta* проводили консультации с чиновниками Ватикана.

Папа римский подчеркивает, что «Magnifica Humanitas» не является призывом к полному отказу от технологий. Речь идет о деэскалации технологической гонки вооружений и предотвращении ситуации, при которой цифровые инструменты начинают доминировать над человечеством.

* — деятельность компании запрещена на территории РФ