Лидеры ИИ-индустрии требуют усилить защиту от биологического оружия

Крупнейшие конкуренты в индустрии искусственного интеллекта (ИИ) объединились, отложив разногласия, ради общей цели: усложнить использование их технологий для создания биологического оружия. В открытом письме к законодателям США лидеры технологической отрасли призывают Конгресс принять законы, которые, по их мнению, закроют тревожный пробел в биобезопасности, способный спровоцировать глобальную пандемию.

Призыв к усилению контроля за синтетическим генетическим материалом

Среди подписантов письма – Дарио Амодей из Anthropic, Сэм Альтман из OpenAI и Мустафа Сулейман из Microsoft. Они призывают законодателей США обязать компании, продающие синтетические ДНК и РНК (генетический материал, который можно заказать онлайн и собрать в лаборатории), проверять заказы на наличие последовательностей, способных быть использованными для создания опасных патогенов. Опасения заключаются в том, что инструменты ИИ могут упростить проектирование потенциально опасных последовательностей, их заказ у производителей и использование методами, которые ранее требовали бы более специализированных знаний.

Среди других подписантов — глава отдела ИИ компании Meta* Александр Ван и Демис Хассабис из Google DeepMind, лауреат Нобелевской премии по химии 2024 года за работы по предсказанию структуры белков с помощью ИИ. Письмо также подписали известные учёные, эксперты по национальной безопасности и политике, а также руководители биотехнологических компаний, включая Twist Bioscience и Ansa Biotechnologies – крупных поставщиков синтетического генетического материала. По сообщениям, письмо было организовано двумя аналитическими центрами: Фондом американских инноваций и Институтом прогресса.

Растущие риски и доступность технологий

Учёные давно предупреждали, что достижения в синтетической биологии могут упростить создание опасных организмов или даже воскрешение давно исчезнувших патогенов — работы, которые могут привести к катастрофическим последствиям в случае неправомерного использования, неправильного обращения или случайного высвобождения. Однако ранее эта возможность в основном оставалась в руках высококвалифицированных учёных, имеющих доступ к сложным лабораториям, оборудованию и ресурсам.

Сейчас беспокойство вызывает то, что по мере удешевления и повышения доступности биологических инструментов, а также роста возможностей моделей ИИ, барьеры, препятствующие неправомерному использованию, начинают разрушаться. Эксперты также предупреждают, что ИИ может способствовать созданию других угроз, таких как химическое оружие.

Предложения по ужесточению контроля

Хотя в письме признается, что многие крупнейшие поставщики синтетических ДНК и РНК уже проверяют заказы, это делается на добровольной, а не на обязательной основе. Авторы письма предлагают вести подробный учёт всех заказов для отслеживания любых угроз, избежавших первоначальной проверки.

"Учитывая скорость изменений базовых технологий, потребность в действиях является неотложной", — говорится в письме. "Это редкий момент согласия между заинтересованными сторонами, которые часто расходятся во мнениях. Авторы письма выражают надежду, что политики ответят решительными действиями".

* — деятельность компании запрещена на территории РФ