Необходимость международного сотрудничества в сфере искусственного интеллекта

Недавняя конференция по технологиям искусственного интеллекта в пекинском районе Чжунгуаньцунь продемонстрировала важность глобального диалога в области безопасности нейросетей. На мероприятии обсуждались перспективы самообучающихся моделей, способных корректировать собственный программный код, а также достижения в области робототехники. В дискуссиях приняли участие видные деятели индустрии, включая соавтора методов шифрования с открытым ключом Уитфилда Диффи и лауреата премии Тьюринга Эндрю Барто.

Риски и вызовы для мировых держав

Эксперты отмечают, что текущее технологическое соперничество между США и Китаем может отойти на второй план перед лицом серьезных системных угроз. Развитие автономных интеллектуальных агентов требует скоординированных усилий, так как потенциальные риски не ограничены границами отдельных государств. Как отмечает Стивен Каспер, научный сотрудник Массачусетского технологического института, ИИ является глобальной технологией, и новые возможности систем неизбежно распространяются по всему миру.

На текущий момент американская сторона рассматривает достижения Китая в области ИИ как фактор угрозы национальной безопасности. Вашингтон уже ввел жесткие ограничения на экспорт чипов и оборудования для их производства. Кроме того, правительство США обязало компанию Anthropic ограничить доступ иностранных граждан к своим наиболее продвинутым моделям из опасений, связанных с утечкой технологий.

Параллели с ядерной эпохой

Несмотря на конкуренцию, аналитики подчеркивают необходимость создания единых стандартов безопасности. Стивен Каспер сравнивает нынешнюю ситуацию с периодом «холодной войны», когда США и СССР были вынуждены сотрудничать в вопросах ядерной безопасности, несмотря на гонку вооружений. Общая позиция специалистов заключается в том, что индустрия должна избежать катастрофических сбоев, подобных аварии на Чернобыльской АЭС.

Безопасность и открытость моделей

Особую дискуссию вызывают открытые нейросетевые модели. С одной стороны, они стимулируют инновации, с другой — могут быть использованы злоумышленниками для поиска уязвимостей в программном обеспечении или проведения кибератак. Среди ключевых аспектов обеспечения безопасности выделяют:

• Разработку общих принципов безопасного проектирования систем.
• Создание международных технических стандартов.
• Механизмы контроля, предотвращающие наличие скрытых уязвимостей (бэкдоров) в открытых моделях.
• Баланс между открытостью исследований и предотвращением распространения опасных инструментов.

Профессор Шанхайского университета транспорта Линь Юнь считает, что в краткосрочной перспективе преимущество могут получить хакеры, однако внедрение новых контрмер на базе ИИ позволит восстановить баланс сил. По словам эксперта, странам необходимо найти сферы взаимодействия, которые позволят снизить системные риски, не раскрывая при этом критически важную оперативную информацию.

Ряд китайских технологических компаний уже пересматривают политику распространения исходного кода своих разработок из соображений безопасности. В условиях, когда современные модели, такие как GLM 5.2 от Z.ai или разработки компании 360 Security Technologies, демонстрируют возможности, сопоставимые с западными аналогами, вопрос стандартизации защиты становится приоритетным для всей мировой индустрии.

* — деятельность компании запрещена на территории РФ