Главы крупнейших ИИ-компаний призывают ужесточить контроль над синтезом ДНК

Руководители ведущих разработчиков систем искусственного интеллекта обратились к законодателям с призывом принять меры, ограничивающие возможность создания биологического оружия. Инициатива направлена на то, чтобы закрыть лазейки, которые могут быть использованы для разработки опасных патогенов с помощью современных технологий.

Контроль над генетическим материалом

Под открытым письмом поставили подписи Демис Хассабис из Google DeepMind, Сэм Альтман из OpenAI, Дарио Амодеи из Anthropic и Мустафа Сулейман из Microsoft AI. Авторы обращения настаивают на введении обязательной проверки клиентов и заказов для всех компаний, занимающихся продажей синтетических ДНК и РНК. В документе отмечается, что стремительное развитие ИИ может значительно снизить барьеры знаний, которые ранее мешали получению биологического оружия.

На сегодняшний день процесс синтеза ДНК полностью автоматизирован. Десятки организаций по всему миру используют коммерческие синтезаторы для производства генетических последовательностей под заказ. Несмотря на то что многие поставщики добровольно проверяют своих заказчиков, единого законодательного стандарта до сих пор не существует.

Риски использования нейросетей в биологии

Эксперты в области биобезопасности указывают на серьезные угрозы, связанные с интеграцией ИИ в биологические исследования:

• Способность языковых моделей подсказывать методы обхода систем безопасности при заказе генетических материалов.
• Возможность проектирования новых токсинов и вирусов, для создания которых ранее требовалась многолетняя подготовка.
• Риск преднамеренного или случайного запуска новой глобальной пандемии с помощью патогена, спроектированного цифровыми инструментами.

В качестве примера в обзоре приводится случай 2017 года, когда исследователи смогли воссоздать вымерший вирус оспы лошадей, закупив необходимые компоненты по почте на сумму 100 тысяч долларов. Специалисты отмечают, что аналогичная методология применима для создания натуральной оспы — крайне опасного и смертоносного вируса.

Необходимость комплексного регулирования

В настоящее время рассматриваются законопроекты, обязывающие всех поставщиков синтетической ДНК проверять личности покупателей и анализировать заказываемые последовательности на наличие признаков опасных микроорганизмов. Однако исследования показывают, что текущие системы фильтрации несовершенны. ИИ-инструменты для дизайна белков способны генерировать структуры, которые выглядят как безопасные, но обладают патогенными свойствами.

По мнению экспертов, ответственность должна лежать не только на поставщиках биоматериалов, но и на разработчиках систем искусственного интеллекта. Лаборатории, создающие мощные модели, должны внедрять внутренние механизмы контроля, которые сделают невозможным получение инструкций по созданию биологических угроз.