Топ-менеджеры игнорируют правила AI-безопасности ради продуктивности, показало исследование

Новое исследование аналитической компании TrustedTech выявило неожиданную проблему в области кибербезопасности искусственного интеллекта. Несмотря на активные усилия по усилению защиты данных и систем ИИ, именно руководители высшего звена чаще всего нарушают установленные протоколы, осознанно обходя меры безопасности в погоне за повышением личной продуктивности.

Руководство использует "теневой" ИИ вдвое чаще рядовых сотрудников

Согласно отчёту TrustedTech, 62% руководителей высшего звена признались в использовании так называемого "теневого ИИ" — несанкционированных инструментов искусственного интеллекта, не одобренных компанией. Это вдвое превышает аналогичный показатель среди рядовых сотрудников, где этот показатель составляет 31%. Примечательно, что, по данным исследования, такое поведение топ-менеджеров не является случайным: они полностью осведомлены о существующих рисках управления и безопасности, но намеренно игнорируют внутренние правила, отдавая приоритет продуктивности над корпоративным соответствием.

• Руководители высшего звена в два раза чаще рядовых сотрудников используют неодобренные ИИ-инструменты.
• Топ-менеджеры часто обходят протоколы безопасности, ставя личную продуктивность выше корпоративных правил.
• Двойные стандарты в использовании ИИ создают значительные риски для управления и безопасности данных.

Двойные стандарты в отношении искусственного интеллекта

Исследование выявило тревожную тенденцию: более четверти (28%) руководителей высшего звена заявили, что продолжат использовать неодобренные ИИ-инструменты, даже если компания их запретит или введет дисциплинарные взыскания. Этот показатель также выше, чем среди всех сотрудников в целом (22%). При этом, несмотря на высокий уровень использования "теневого ИИ" среди руководства, половина (51%) из них выражают обеспокоенность тем, что рядовые сотрудники могут поступать аналогично. По мнению TrustedTech, это создает двойные стандарты и непоследовательность в управлении, что в конечном итоге снижает вероятность соблюдения правил со стороны остальных работников. Как отметил Джулиан Хамуд, главный идеолог TrustedTech, "когда такое поведение демонстрируется на вершине организации, становится значительно труднее обеспечить соблюдение правил в других отделах компании".

Сотрудники хотят ИИ, но сталкиваются с ограничениями

Проблема соблюдения правил использования ИИ может заключаться не только в вопросах управления и безопасности. Сотрудники выражают постоянное недовольство предлагаемыми им инструментами. В отчёте упоминаются такие причины, как давление на производительность и ограниченный доступ к функциям. Каждый четвертый (24%) опрошенный считает, что одобренные работодателем ИИ-инструменты слишком ограничены в функциональности, а 21% согласны с тем, что неофициальные инструменты более эффективны.

Отчёт также указывает на медленное внедрение ИИ среди рядовых сотрудников из-за организационных и культурных опасений. Так, 28% работников беспокоятся, что работодатели отслеживают использование инструментов ИИ, 23% сокращают их использование из-за опасений по поводу восприятия их работы руководством, а 21% признаются, что негативно оценивают коллег, активно полагающихся на искусственный интеллект. Кроме того, каждый пятый (20%) сотрудник обеспокоен тем, что использование ИИ может негативно повлиять на их карьерный рост.

Парадоксально, но группа, наиболее активно использующая "теневой ИИ" – высшее руководство – также имеет непропорционально высокую поверхность риска. Это связано с их доступом к конфиденциальным данным, включая финансовую информацию, сведения отдела кадров и расчет заработной платы, данные клиентов, юридические и нормативные материалы, и многое другое.

Необходимость переосмысления подхода к управлению ИИ

Несмотря на все сложности, стремление сотрудников к использованию ИИ очевидно: семь из десяти (70%) убеждены, что ИИ положительно влияет на командную производительность, 54% экономят не менее трех часов в неделю, а 27% — пять и более часов в неделю. Компания TrustedTech критикует организации за недостаточную ясность: у многих до сих пор отсутствуют формальные политики в отношении ИИ, списки одобренных инструментов и адекватные программы обучения.

По словам Джулиана Хамуда, выводы исследования подчеркивают острую необходимость для организаций пересмотреть свой подход к управлению ИИ. Особое внимание следует уделить ответственности руководителей, разработке более четких правил использования и улучшению обучения по безопасному и ответственному внедрению искусственного интеллекта.