NeuralTrust привлекла 20 миллионов долларов на разработку систем безопасности для ИИ-агентов

Стартап NeuralTrust, специализирующийся на защите автономных систем искусственного интеллекта, завершил посевной раунд финансирования в размере 20 миллионов долларов. Лид-инвестором выступил фонд Alstin Capital при участии VentureFriends, Seaya, Kibo Ventures, Banc Sabadell и других венчурных организаций. Проект также получил государственную поддержку от Европейского инновационного совета и Государственного агентства исследований Испании.

Растущая потребность в контроле автономных систем

Инвестиции поступили на фоне активного внедрения ИИ-агентов — программ, способных самостоятельно выполнять сложные задачи — в различные бизнес-процессы. По мере того как эти системы интегрируются в работу команд и платформ, компании сталкиваются с необходимостью обеспечения прозрачности и безопасности их работы. Отраслевые аналитики прогнозируют, что требования к управлению и надзору за ИИ будут только расти вместе с масштабами их использования.

NeuralTrust, основанная Жуаном Вендрелем, Виктором Гарсией и Алехандро Доминго, предлагает единую платформу для мониторинга и защиты ИИ-агентов в корпоративной среде. На сегодняшний день сервис ежедневно анализирует миллионы взаимодействий. По данным внутреннего мониторинга, около 1,2% операций требуют немедленного вмешательства из-за попыток извлечения конфиденциальных данных, манипулирования инструментами или обхода установленных правил контроля. Подобные угрозы идентифицируются и нейтрализуются в режиме реального времени.

Комплексный подход к кибербезопасности

Как отмечает исполнительный директор NeuralTrust Жуан Вендрель, по мере глубокой интеграции ИИ в операционную деятельность предприятий, создание надежных механизмов контроля становится стратегическим преимуществом. Платформа компании включает три основных технологических решения:

• TrustGate — система управления трафиком агентов между различными моделями и инструментами.
• TrustGuard — модуль, обеспечивающий безопасность ИИ-агентов непосредственно во время выполнения задач.
• TrustLens — инструмент для визуализации развертывания и детального анализа поведения систем.

Вклад в глобальные стандарты безопасности

Помимо разработки коммерческих продуктов, NeuralTrust активно участвует в профильных исследованиях. Эксперты компании выявили и задокументировали новые техники атак, включая метод многоэтапного взлома (jailbreak) под названием Echo Chamber и мультимодальный вектор атаки Semantic Chaining. Эти наработки были официально включены в классификацию международного проекта OWASP AI Security, который занимается стандартами безопасности для ИИ.

Привлеченные средства будут направлены на дальнейшее совершенствование платформы, расширение штата инженеров и добавление поддержки новых типов моделей и инструментов, которые сегодня внедряются в корпоративном секторе.