Нейросеть Mythos от Anthropic обнаружила уязвимости в секретных системах правительства США

В ходе контролируемых испытаний передовая модель искусственного интеллекта Mythos продемонстрировала способность находить критические бреши в защищенных правительственных системах США за считанные часы. Информацию об эффективности разработки подтвердил сенатор Марк Уорнер, ссылаясь на данные Агентства национальной безопасности (АНБ).

Результаты правительственного тестирования

По словам сенатора Марка Уорнера, представители АНБ сообщили, что в рамках специальных учений нейросеть Mythos смогла выявить уязвимости практически во всех проверяемых классифицированных системах. Важно отметить, что процесс был полностью контролируемым и проводился совместно специалистами Anthropic и разведывательным ведомством.

Официальные лица США уточнили, что система Mythos нашла слабые места в защите, не прибегая к их непосредственной эксплуатации. Тем не менее сам факт столь оперативного обнаружения критических ошибок вызывает серьезные опасения у профильных специалистов в области кибербезопасности.

Ограниченный доступ и эффективность ИИ

Компания Anthropic приняла решение не выпускать модель в широкий доступ из-за чрезмерной эффективности алгоритма в поиске и потенциальном использовании программных уязвимостей. Вместо этого доступ к инструменту был предоставлен ограниченному числу крупных корпораций для укрепления их инфраструктуры.

• Mozilla подтвердила высокую результативность модели, отметив, что Mythos работает на уровне ведущих мировых экспертов по кибербезопасности. Только за апрель с помощью этого инструмента было исправлено более 400 ошибок в браузере Firefox.
• За два месяца тестирования 50 компаний-партнеров с помощью нейросети обнаружили свыше 10 000 критических уязвимостей.
• Компания Cloudflare сообщила об обнаружении 2 000 багов, значительная часть которых имела высокий уровень опасности. При этом количество ложных срабатываний оказалось ниже, чем при ручном тестировании специалистами.

Разработчики отмечают, что использование подобных систем позволяет компаниям повысить скорость поиска уязвимостей более чем в десять раз, что значительно опережает темпы работы человеческих групп тестирования.

* — деятельность компании запрещена на территории РФ