Теневой ИИ: вызов или новая возможность для бизнеса?

Современные компании сталкиваются с новым феноменом — "теневым ИИ" (искусственным интеллектом). Подобно "теневым IT" десятилетия назад, когда сотрудники приобретали облачные платформы и SaaS-приложения (программное обеспечение как услуга) в обход внутренних процедур, сегодня они активно внедряют генеративный ИИ, ИИ-помощников и платформы автоматизации без контроля со стороны централизованных IT-отделов. Это позволяет командам использовать потенциал ИИ, но часто ставит IT-службы в неведение, создавая значительные риски.

Скорость внедрения ИИ опережает контроль

По словам обозревателей, скорость внедрения систем искусственного интеллекта значительно опережает формирование надлежащих регламентов и механизмов управления. Признавая важность экспериментов сотрудников с ИИ для автоматизации рутинных задач, повышения эффективности и улучшения принятия решений, компании часто не обладают полным представлением об его использовании. В отличие от традиционного программного программного обеспечения, инструменты на базе ИИ и платформы автоматизации не требуют существенных затрат на инфраструктуру или сложных процедур закупки, что позволяет пользователям внедрять их моментально, без участия IT-отдела.

Отсутствие операционной прозрачности

По мере роста внедрения, ИИ интегрируется в рабочие процессы подразделений без должного управления и контроля. Компании сталкиваются не только с проблемами закупок, но и с отсутствием операционной прозрачности. Им неизвестно, какие именно ИИ-инструменты используют сотрудники, какие данные загружаются и где хранится конфиденциальная информация. Это подвергает организации операционным, регуляторным и репутационным рискам.

Разрастание числа поставщиков решений (так называемый "vendor sprawl") добавляет сложности, являясь одним из главных вызовов неконтролируемого использования ИИ. Многие компании осознают, что ИИ уже широко применяется во всех сферах их деятельности. Проблема заключается в том, что, стремясь упростить операции, они добавляют все больше ИИ-инструментов к уже разрозненным технологическим ландшафтам. Каждое подразделение закупает свои ИИ-платформы, сотрудники создают собственные автоматизации, а поставщики без должного контроля встраивают ИИ-возможности в свои продукты.

Это создает разобщенную экосистему инструментов, поставщиков и автоматизированных рабочих процессов. Проблема разрастания числа поставщиков усугубляется при использовании нескольких провайдеров, таких как аутсорсинговые компании, публичные облачные платформы и поставщики SaaS, где ответственность распределена между различными сторонами.

Слепые зоны ИИ и управление рисками

Добавление ИИ в эту среду создает дополнительные "слепые зоны". В случае сбоя автоматизированного рабочего процесса, получения некорректных результатов или нарушения стандартов соответствия возникает вопрос: кто несет ответственность? Поставщик модели ИИ, разработчик базового ПО, платформа автоматизации, сотрудник, внедривший решение, или источник данных?

Без четкого управления ИИ-активностью и интеграцией сервисов ответить на эти вопросы крайне сложно. Трансформация с помощью ИИ — это проблема операционной модели, а не только технологии. Многие подходят к ней неверно: вместо того чтобы просто внедрять ИИ-технологии, руководителям необходимо глубоко осмыслить, как инструменты ИИ используются во всех аспектах бизнеса.

Формирование устойчивости к рискам, связанным с ИИ, не сводится к использованию максимального количества ИИ-инструментов. Это означает внедрение механизмов управления, распределения ответственности и операционной отказоустойчивости в ИИ-активность с самого начала.

Требуется изменение менталитета. IT-команды больше не могут быть просто "привратниками". Все больше подразделений будут использовать ИИ-инструменты независимо от одобрения IT. Попытки ограничить использование ИИ лишь приведут к росту "теневых IT".

IT-подразделения и службы управления IT-услугами (ITSM) должны эволюционировать, сосредоточившись на интеграции сервисов, управлении и операционном надзоре. Это включает:

• Обеспечение прозрачности использования ИИ.
• Разработку руководящих принципов ответственного применения ИИ.
• Управление рисками, связанными с поставщиками ИИ-решений.
• Интеграцию ИИ в операционные рабочие процессы.
• Установление ответственности за решения, принимаемые с помощью ИИ.
• Содействие инновациям при наличии надлежащего управления.

Организациям необходима сквозная видимость использования ИИ по всем командам, поставщикам, инструментам автоматизации и сторонним ИИ-сервисам. Без этого в их операционной устойчивости могут появиться серьезные пробелы.

Рост регуляторного давления

Управление становится еще более критичным по мере усиления регуляторного давления. С появлением новых норм, таких как Европейский закон об ИИ (EU AI Act), и новых интерпретаций существующего законодательства о защите данных, от компаний будут требовать отчетности о том, как инструменты ИИ отслеживаются, управляются и используются.

Однако большинство компаний внедряют ИИ задолго до того, как начинают задумываться о его регулировании. К тому моменту, когда регулирующие органы приступят к регламентации использования ИИ в бизнесе, многие организации, вероятно, будут значительно отставать в вопросах управления.

Существует риск того, что сотрудники могут случайно передать конфиденциальную информацию через публичные ИИ-системы. Компании могут начать использовать контент, сгенерированный ИИ, для взаимодействия с клиентами без проверки фактов или оценки качества. Внутренние решения могут приниматься автоматизированными рабочими процессами без должной видимости или возможности аудита.

Четыре шага для предотвращения кризиса теневого ИИ

Чтобы избежать кризиса, связанного с теневым ИИ, компаниям необходимо принять меры по ответственному управлению ИИ-инструментами и их использованием.

• Понять, как используется ИИ. Получите полное представление о том, какие ИИ-инструменты применяются в организации, кем и для каких целей. Это включает неформальные или инициированные подразделениями проекты, осуществляемые вне контроля IT.
• Определить принципы ответственного использования. Установите четкие руководящие принципы для ответственного применения ИИ, работы с данными, управления рисками поставщиков и распределения ответственности. Нет необходимости создавать жесткие процессы одобрения, но важно разработать практические "правила игры" для команд.
• Рассматривать ИИ как операционный сервис. ИИ все чаще интегрируется в критически важные для бизнеса рабочие процессы. Поэтому его следует рассматривать как любой другой ключевой сервис. Определите, кто отвечает за ИИ-активность, как управляются поставщики и как обеспечивается безопасность и соответствие нормативным требованиям.
• Подходить к управлению ИИ как к общекорпоративной инициативе. Управление ИИ не должно быть исключительной ответственностью IT-отдела. Отделы закупок, безопасности, HR, операционной деятельности, юридические службы и высшее руководство — все должны работать сообща.

В конечном итоге, организациям не стоит бояться ИИ. Однако отправной точкой является признание того, как неосознанно они уже теряют видимость и контроль над технологиями, которые все больше определяют их бизнес-процессы.