Борьба с цифровыми двойниками: как стартапы защищают актеров от нелегальных дипфейков

На прошедшей в Лос-Анджелесе технологической конференции AI on the Lot, собравшей около 2500 специалистов киноиндустрии, ключевой темой обсуждения стала защита цифровой личности. В то время как большинство дискуссий было посвящено оптимизации кинопроизводства с помощью нейросетей, эксперты за кулисами все чаще говорят о рисках несанкционированного использования внешности и голоса актеров. Одним из главных защитников в этой сфере выступает компания Loti AI, которая занимается поиском и удалением нелегального контента.

Охота за дипфейками в реальном времени

Проблема создания цифровых подделок (дипфейков) обострилась во время забастовки американского профсоюза актеров SAG-AFTRA. Использование генеративного искусственного интеллекта без согласия и выплаты компенсаций артистам стало экзистенциальной угрозой для отрасли. Более того, подобные технологии создают риски и для обычных людей, способствуя распространению дезинформации в социальных сетях и созданию неприемлемого контента.

Глава Loti AI Люк Арригони, ранее работавший в крупном агентстве по поиску талантов CAA и вошедший в список Forbes Next 1000, рассказал о принципах работы своей платформы. Сервис функционирует в двух ключевых направлениях:

• Оборона: система непрерывно сканирует интернет, распознает лица и голоса клиентов там, где они не должны находиться, и оперативно удаляет несанкционированный контент (от мошеннических схем до поддельных изображений).
• Нападение: компания предоставляет инструмент для лицензирования. Если разработчики генеративного ИИ хотят использовать образ актера, они должны согласовать это через платформу Loti AI, которая проверяет соблюдение правил и условий оплаты в реальном времени.

По словам Арригони, для запуска поиска клиенту не нужно обращаться в правоохранительные органы или получать судебные повестки. Система начинает сканирование сети уже через 10 минут после регистрации.

Почему ИИ не сможет заменить великих режиссеров

В обзоре отмечается, что в ближайшие год-два отличить качественный дипфейк от реальной съемки станет практически невозможно. Это потребует от общества развития критического мышления буквально со школьной скамьи.

Тем не менее Арригони вырачает сдержанный оптимизм по поводу долгосрочных перспектив творческих профессий. Он считает, что со временем у аудитории возникнет пресыщение контентом, созданным нейросетями, и ценность реального человеческого искусства вырастет.

Эксперт объясняет это технологическими ограничениями ИИ. Алгоритмы обучаются на огромных массивах данных и стремятся выдать среднестатистический результат (в пределах 50–75-го процентиля по качеству). У искусственного интеллекта просто нет механизмов, позволяющих создавать шедевры уровня Кристофера Нолана или Джордана Пила, чьи работы отличаются уникальной эстетикой и выходят за рамки средних показателей.

Технологический тупик и спасение человечества

Основную опасность Арригони видит в стремлении технологических гигантов бесконечно оптимизировать процессы, избавляясь от этических барьеров ради прибыли. По его мнению, если не установить жесткие рамки для разработчиков ИИ, это может привести к разрушительным последствиям для общества.

Что касается гипотетической технологической сингулярности, когда технологии превзойдут человеческий разум, глава Loti AI относится к этому скептически. Он отмечает, что если сингулярность произойдет на базе текущих моделей, мир просто заполнит бесконечный поток максимально посредственного и усредненного контента.