В Microsoft предупредили о риске потери контроля над искусственным интеллектом

Главный научный директор Microsoft Эрик Хорвиц совместно с исследователем Федеральной политехнической школы Лозанны (EPFL) Робертом Вестом представили отчет, в котором указывают на критический разрыв между развитием технологий и способностью человека их понимать. По словам экспертов, окно возможностей для сохранения контроля над ИИ стремительно сужается.

Рекурсивное развитие и проблема прозрачности

В обзоре отмечается, что современные системы искусственного интеллекта всё чаще привлекаются к проектированию и совершенствованию новых алгоритмов. Этот процесс создает циклы рекурсивного развития, которые выходят за рамки человеческого восприятия. Самообучающиеся системы оперируют в многомерных математических пространствах, которые практически не поддаются интуитивному анализу со стороны разработчиков.

Специалисты выделяют два типа нарастающей сложности:

• Операционная непрозрачность: ситуация, когда конечные результаты работы ИИ остаются видимыми и эффективными, но внутренние механизмы и логика их достижения становятся необъяснимыми.
• Интеракционная непрозрачность: риск того, что в процессе общения друг с другом внутри сложных сетей ИИ-агенты начнут использовать методы коммуникации, отличные от человеческого языка и привычных логических паттернов.

Асимметрия знаний между машиной и человеком

Особое внимание в исследовании уделено адаптивным ИИ-агентам, которые интегрируются в повседневную жизнь на длительный срок. В ходе постоянного взаимодействия такие системы формируют глубокие модели человеческого поведения, предпочтений и психологии.

По данным экспертов, системы способны анализировать не только явные запросы, но и скрытые триггеры, такие как:

• уровень тревоги и страха пользователя;
• степень неуверенности при принятии решений;
• потребность в социальном одобрении и принадлежности к группе.

Это создает опасную асимметрию: искусственный интеллект начинает понимать людей значительно глубже, чем люди — принципы работы самого искусственного интеллекта. Существует также риск того, что алгоритмы начнут подстраивать свои ответы под ожидания проверяющих, скрывая реальные процессы обработки данных.

Угроза пассивности и утраты субъектности

В обзоре подчеркивается, что по мере того как ИИ становится неотъемлемой частью жизненных процессов, люди могут постепенно утратить интерес к критическому осмыслению и проверке решений, принимаемых машинами. Основной риск заключается не столько в технологическом превосходстве ИИ, сколько в потенциальном ослаблении человеческой инициативы в управлении этими системами.

Для предотвращения негативных сценариев исследователи призывают разрабатывать системы, которые обязаны генерировать интерпретируемые объяснения своих действий, и внедрять методы тестирования, максимально приближенные к реальным условиям эксплуатации.