Исследование: YouTube чаще подсовывает пользователям спорные ролики, чем действительно полезный контент
Система рекомендаций YouTube создана для того, чтобы подбирать видео с учетом интересов зрителя и удерживать его на платформе как можно дольше. Иногда это действительно работает: пользователь находит лекции, обзоры, инструкции или развлекательные программы, которые соответствуют его предпочтениям. Однако исследование Mozilla Foundation показало, что алгоритм способен продвигать не только интересный, но и потенциально вредный контент.
В рамках проекта более 37 тысяч добровольцев на протяжении десяти месяцев отслеживали собственные просмотры с помощью специального браузерного расширения. Когда участник сталкивался с роликом, который считал сомнительным или неприемлемым, система фиксировала источник перехода - пользователь нашел видео самостоятельно или увидел его в рекомендациях YouTube.
Результаты оказались тревожными: 71% роликов, которые участники признали проблемными, были предложены им самой платформой. В число таких материалов вошли видео с фейковой информацией, псевдонаучными утверждениями, теориями заговора вокруг событий 11 сентября, жестоким обращением с животными и пропагандой расового превосходства.
Отдельный случай касался десятилетней девочки. Изначально она искала ролики о танцах, но постепенно рекомендации переключили ее внимание на видео об экстремальных диетах. В результате ребенок начал ограничивать питание. Этот пример показывает, что алгоритмическая цепочка рекомендаций может увести пользователя далеко от первоначального запроса - особенно если речь идет о несовершеннолетних.
Почему YouTube продвигает сомнительные видео
Одна из главных причин - высокая вирусность спорного контента. Скандальные заголовки, шокирующие заявления и эмоциональные сюжеты часто получают больше просмотров, комментариев и реакций, чем спокойные образовательные материалы. Для рекомендательной системы такие показатели могут выглядеть как признаки востребованности.
Алгоритм не всегда способен корректно оценить смысл видео и его последствия. Он анализирует поведение аудитории: что люди открывают, сколько смотрят, какие ролики включают после просмотра и как часто возвращаются к определенной теме. Если потенциально вредный материал быстро набирает популярность, система может начать показывать его новым зрителям, даже если содержание не соответствует их реальным интересам.
Кроме того, рекомендации формируются не только на основе поисковых запросов. Учитываются история просмотров, подписки, длительность сеансов, возрастные и региональные параметры, а также поведение пользователей с похожими предпочтениями. Поэтому один случайный клик способен повлиять на последующую ленту.
В YouTube заявили, что компания предпринимает меры против распространения опасных материалов. По данным платформы, количество рекомендаций вредного контента удалось сократить до уровня менее 1% от общего числа просмотров. За год специалисты внесли около 30 изменений в систему модерации и рекомендаций.
Представители сервиса также утверждали, что автоматизированные инструменты обнаруживают и удаляют 94% роликов, нарушающих правила, еще до того, как такие видео набирают десять просмотров. При этом в рамках исследования YouTube удалил примерно 200 материалов, на которые обратили внимание участники.
Почему невозможно проверить эффективность алгоритма
Главная проблема заключается в недостатке прозрачности. YouTube не раскрывает точные принципы работы рекомендательной системы, объясняя это коммерческой ценностью алгоритма. Пользователи не могут самостоятельно проверить, какие факторы влияют на выдачу и почему один ролик оказывается на главной странице, а другой - нет.
Из-за закрытости системы трудно оценить, насколько заявления компании соответствуют реальной ситуации. Даже если доля опасных рекомендаций действительно снизилась, остается вопрос о том, как определяется вредность контента и учитываются ли материалы, которые формально не нарушают правила, но могут негативно влиять на аудиторию.
Проблема усугубляется тем, что кнопка "Не интересует" не всегда заметно меняет рекомендации. Пользователь может неоднократно скрывать определенный тип видео, но через некоторое время похожие ролики снова появляются в ленте. Это создает ощущение, что обратная связь учитывается лишь частично.
Как снизить количество нежелательных рекомендаций
Пользователь может самостоятельно ограничить влияние алгоритма. Для этого стоит регулярно очищать историю просмотров и поиска, особенно после случайного перехода на непредпочтительный контент. Даже короткий просмотр иногда воспринимается системой как сигнал интереса.
Полезно использовать функцию "Не интересует" и отдельно отмечать нежелательные каналы. Одного нажатия не всегда достаточно, поэтому важно повторять действие для роликов одной тематики. Со временем это может скорректировать ленту.
Если рекомендации стали слишком однообразными или агрессивными, можно временно отключить историю просмотров. В таком режиме YouTube будет в меньшей степени опираться на случайные клики при формировании главной страницы.
Родителям стоит настроить детский профиль или использовать YouTube Kids, однако и эти инструменты не следует считать абсолютной защитой. Ребенку важно объяснить, что рекомендации не являются экспертной оценкой и не гарантируют достоверность или безопасность видео.
Также необходимо обращать внимание на заголовки и описания, построенные на страхе, сенсациях и обещаниях быстрых результатов. Подобные приемы часто используются для повышения кликабельности. Перед тем как доверять информации, желательно сравнить ее с независимыми источниками и оценить компетентность автора.
Что необходимо изменить платформе
Для улучшения ситуации YouTube мог бы предоставить пользователям более подробные настройки рекомендаций: возможность полностью блокировать отдельные темы, выбирать приоритет образовательного контента и видеть причины появления конкретного ролика в ленте.
Важным шагом стала бы независимая проверка алгоритмов. Аудит со стороны специалистов по цифровой безопасности, медиаграмотности и защите детей помог бы оценить не только техническую эффективность модерации, но и реальные последствия рекомендаций.
Пока система остается закрытой, ответственность распределяется между платформой и зрителями. YouTube должен снижать распространение вредных материалов, а пользователям следует помнить: популярность видео не подтверждает его достоверность и безопасность. Чем активнее аудитория контролирует историю просмотров, настройки приватности и обратную связь, тем меньше вероятность, что случайный ролик сформирует всю последующую ленту.
