Как ИИ слоп захватывает видеоплатформы и почему маркировка бесполезна

Как ИИ‑слоп заполняет видеоплатформы

По данным исследования Kapwing, свыше 20% роликов, рекомендуемых новым пользователям YouTube, — это низкокачественный автоматически сгенерированный контент, так называемый AI slop. Выявлено около 278 каналов, которые публикуют только такие видео, собрав суммарно более 63 млрд просмотров и порядка 117 млн долларов годового дохода.
Это не случайный шум, а новая экономика массового «контент‑фермерства»: дешевые видео ради рекламы и алгоритмических охватов. Параллельно растет слой более качественного контента, где генеративные модели используются как инструмент в руках автора — для музыки, визуала, монтажа. Такой гибридный формат «ИИ плюс человек» и станет нормой.

Brain rot и влияние мусора на модели

Исследования показывают, что низкокачественный, вирусный контент влияет не только на пользователей, но и на сами модели. Ученые Техасского университета и Университета Пердью проверили «гипотезу brain rot»: при обучении на коротких, вирусных постах из соцсетей у моделей деградируют способности к рассуждению, работе с длинным контекстом и растет доля «скачущего мышления».

Однако эта проблема решаема на уровне инженерии: для промышленных моделей уже применяются многоступенчатые фильтры качества данных, аналогичные спам‑фильтрам в почте. Бинарные и более сложные классификаторы позволяют отсекать большую часть «мусора», и небольшие доли ошибок в выборке статистически не ломают модель.

Почему обязательная маркировка ИИ‑контента не сработает

Крупные игроки, включая Google, продвигают стандарт C2PA для маркировки генерируемых изображений и видео через криптографически защищенные метаданные о происхождении и правках. На бумаге это выглядит как шаг к прозрачности, но на практике возникает несколько проблем:

• Огромные объемы уже созданного контента невозможно промаркировать задним числом — за несколько лет накопились петабайты ИИ‑материалов.
• Метаданные C2PA легко теряются при пересжатии, загрузке в мессенджеры и социальные сети; эксперименты с Pixel 10 показывают, что «цифровой водяной знак» можно удалить, не оставляя пользователю понятного визуального следа.
• Открытые модели из репозиториев вроде Hugging Face позволяют генерировать контент без какой‑либо встроенной маркировки, и запретить их использование практически невозможно.
• Главный риск — инверсия доверия. Если людей приучить считать маркированный контент «подозрительным», они начнут больше доверять немаркированным роликам. Мошенники, в свою очередь, будут сознательно использовать немаркирующие или модифицированные модели для создания «идеально немаркированных» дипфейков.

Где реальные решения

Ситуацию не исправит формальная маркировка; нужны более приземленные меры:

• ужесточение внутренних алгоритмических фильтров платформ для снижения доли откровенного ИИ‑мусора в рекомендациях;
• развитие методов детекции дипфейков и аномального поведения каналов на стороне самих сервисов, а не перекладывание ответственности на пользователя;
• четкое разделение: что считать «вредным ИИ‑контентом», а что — допустимой формой творческого использования генеративных моделей.

Генеративный контент уже стал постоянной частью медиасреды, и задача не в том, чтобы его «запретить», а в том, чтобы управлять качеством и снижать риски манипуляций.

Выводы для бизнеса и регуляторов

ИИ‑слоп — экономическая, а не только технологическая проблема: пока модели позволяют зарабатывать на потоковом мусоре, он никуда не исчезнет.

Маркировка по стандарту C2PA полезна как служебный сигнал для экспертов и платформ, но не может быть универсальным щитом для граждан.

Регуляторам имеет смысл фокусироваться на ответственности платформ за качество рекомендаций и прозрачность алгоритмов, а не на формальных водяных знаках.