Как будет маркироваться ИИ-контент в России

В последние два года нейросети плотно вошли в нашу жизнь как удобный инструмент для самых различных направлений деятельности — от копирайтинга до автоматизации бизнес-процессов и взаимодействия с клиентами. Вместе с этим сфера онлайн-контента столкнулась с острой проблемой — распространением дипфейков, создаваемых с использованием искусственного интеллекта. Если ранее для создания фальшивых изображений или видео требовались значительные ресурсы и навыки, то сейчас этот процесс стал общедоступным благодаря ИИ-сервисам. Такая ситуация порождает серьезные угрозы для общества и экономики, поскольку дипфейки могут быть использованы для распространения ложной информации, дискредитации известных личностей и организаций, манипулирования общественным мнением. Кроме того, они могут применяться для обмана сотрудников компаний и совершения мошеннических действий, таких как целевой фишинг и кража персональных данных. По этой причине еще в прошлом году в мире заговорили о необходимости маркировки сгенерированного или отредактированного нейросетями контента, чтобы пользователи могли сразу видеть, что имеют дело с дипфейками. Такая маркировка поможет бороться с распространением дезинформации, а также повысит доверие к онлайн-среде. С учетом роста случаев использования дипфейков в мошеннических схемах, в том числе в финансовой сфере, создание системы маркировки ИИ-контента становится актуальной задачей для государства и других отраслей, включая банковский сектор, медиа и социальные сети.

В России предложения о введении маркировки сгенерированного контента звучали  на протяжении всего прошлого года. Осенью Всероссийский центр изучения общественного мнения (ВЦИОМ) опубликовал результаты исследования, которые показали, что эта проблема волнует многих пользователей: тогда 69% опрошенных россиян поддержали введение маркировки ИИ-контента. В этом направлении Министерство цифрового развития, связи и массовых коммуникаций анонсировало разработку платформы для выявления дипфейков, созданных с применением ИИ. Это стало частью стратегии национального проекта «Экономика данных», инициированного премьер-министром Михаилом Мишустином. По словам представителя Минцифры, рассмотрение возможности создания единой платформы для выявления фейковой информации, включая дипфейки, открывает новые перспективы в борьбе с дезинформацией. Однако для определения стратегии в решении этого вопроса требуется провести глубокие исследования для определения эффективных методов обнаружения и анализа поддельных материалов, созданных при помощи ИИ. Что вызывает сейчас бурные обсуждения в цифровой среде.

Как выявлять контент, созданный с помощью ИИ

На сегодняшний день выявление дипфейков не автоматизировано и пока основано преимущественно на анализе контента специалистами по информационной безопасности и криминалистами в ручную. Ведущие IT-специалисты видят несколько вариантов для решения проблемы с дипфейками. Одним из предложенных решений является разработка плагина, который будет автоматически сканировать веб-сайты на наличие контента, созданного с использованием искусственного интеллекта. Однако вопрос о его интеграции в социальные сети и мессенджеры остается открытым, и зависит от готовности их владельцев к такому изменению.

В других странах уже ведутся разработки интеллектуальных систем для определения сгенерированного контента. Intel представил технологию FakeCatcher для обнаружения дипфейков в реальном времени. Как заявляет производитель, детектор обладает точностью 96 % и анализирует цветовые изменения кожи, характерные только для настоящих людей. В процессе работы используются инструменты Intel, включая OpenVino, OpenCV и Deep Learning Boost.

Онлайн-инструмент Sensity обнаруживает поддельные лица на фото и видео с помощью методов глубокого обучения и судебной экспертизы.

Для эффективного мониторинга и обнаружения дипфейков в социальных сетях, возможно, потребуется разработка специализированного ПО или получение доступа к API платформ. Также обсуждается вопрос о внедрении водяных знаков как средства защиты от неправомерного использования ИИ-контента. Хотя при этом стоит учитывать, что для сервисов такая маркировка может оказаться невыгодной, если она не станет обязательной. Таким образом, необходимо провести дальнейшие обсуждения и принять соответствующие нормативные акты.

В зарубежном опыте уже есть примеры использования маркировки контента, созданного с применением ИИ. Например, в Китае маркировать ИИ-контент необходимо в популярном сервисе TikTok. В США еще в прошлом году власти пришли к соглашению с крупными разработчиками генеративного ИИ о маркировке сгенерированного в их сервисах контента. Так на YouTube создатели должны указывать, если их видео были сделаны с помощью ИИ. Платформа  представила новый инструмент в Creator Studio, который требует раскрытия информации об этом, если контент может быть воспринят зрителями как реальный. Создателям приходится сообщать, когда они изменяют контент в цифровом формате, например, заменяя лица и голоса, или создавая впечатление реалистичных сцен, включая события или места. Такие меры позволяют пользователям лучше понимать и оценивать содержание, которое они потребляют, а также способствуют прозрачности и ответственному использованию технологий.

Сложности реализации системы маркировки

Внедрение системы маркировки контента, созданного с использованием искусственного интеллекта, сталкивается с определенными сложностями. Во-первых, нужно определить, какой вид ИИ-контента должен быть отмечен. Например, новые правила маркировки в Youtube касаются только контента, который можно ошибочно принять за настоящий. Они затрагивают очевидно нереалистичный контент. Для этого необходимо установить стандарты и правила маркировки контента на государственному уровне, а также обеспечить их соблюдение всеми участниками в цепочке создания и распространения контента.

Во-вторых, остается вопрос точности проверки такого контента — будут ли технические средства достаточно эффективными. Уже есть немало сервисов, разработанных для выявления признаков генерации, но мы видим, что они даже сейчас не дают 100% точности, а нейросети учатся создавать все более реалистичную картинку. Введение системы маркировки потребует разработки и внедрения соответствующих алгоритмов и технологий, способных эффективно обнаруживать дипфейки. Для этого необходимы значительные инвестиции, а также квалифицированные специалисты в области ИИ, компьютерного зрения, машинного обучения, обработки и анализа аудио- и видеоданных, эксперты по анатомии, акустике, гидродинамике и т.д. 

Но одна из главных проблем заключается в обработке колоссальных объемов данных. Платформе, которая централизованно будет выявлять видеодипфейки по всей сети, необходимо обрабатывать огромные потоки информации. Такие мощности могут обеспечить только крупные игроки рынка телекоммуникаций и информационных технологий либо отдельные организации, специализирующиеся на этой проблематике. 

В заключении хочется подчеркнуть, что борьба с дипфейками — это сложная и многогранная задача, которая потребует много времени и совместных усилий всех заинтересованных сторон. Необходимо продолжать исследования в этой области, разрабатывать новые технологии и стандарты, а также обеспечивать прозрачность и ответственность в использовании современных медиаинструментов. Только таким образом мы сможем защитить себя от дезинформации и сохранить доверие к информации в цифровом мире. В ТопСети мы уверены в том, что внедрение пользовательской маркировки ИИ-контента в российские онлайн-сервисы — важный шаг в направлении прозрачности и защиты от дезинформации. Это будет демонстрировать готовность ответственных сторон действовать в интересах общества.