Проблема хищников стала достоянием общественности как минимум с 2017 года. Но гигант онлайн-видео не делает ничего значимого для ее решения.
На выходных активист YouTube Мэтт Уотсон попал на первую страницу Reddit с видео о тревожном явлении, которое он обнаружил на платформе видеохостинга Google, второй по величине поисковой системы в мире. Уотсон продемонстрировал, как он может переключаться между обычным, подходящим контентом YouTube и переходить к вызывающим размышления видео с молодыми девушками. Хотя многие из этих видеороликов, в которых подростки носят бикини и занимаются сексом в своих спальнях, не были откровенно сексуальными, большая часть была прокомментирована пользователями с явно педофильскими намерениями. В некоторых комментариях были указаны временные метки для определенных моментов, когда молодые девушки находились в компрометирующем положении. В некоторых комментариях есть ссылки на личные видео, не включенные в список. Эти клипы на YouTube были монетизированы с помощью рекламы таких компаний, как Grammarly и самого Google.
Вскоре после того, как видео Уотсона, на котором он выражал ужас по поводу этого явления, поднялось в рейтингах Reddit, СМИ и рекламодатели отреагировали. The Verge сообщила, что Epic Games, компания, стоящая за Fortnite, удалила свою рекламу перед роликом с YouTube после того, как пост Уотсона стал вирусным, а Peloton, компания по производству велотренажеров, заявила, что работает над тем, чтобы выяснить, почему их реклама наталкивается на неприемлемый контент. YouTube также отреагировал, обновив свою «систему забастовки каналов». Эта система, которая не обновлялась десять лет, предупреждает пользователей о неподобающем поведении, используя систему трех предупреждений.
Это было что-то, но, как указывали Forbes, Mashable, Business Insider и The New York Times, это не было решением очевидной проблемы алгоритмического, человеческого или машинного обучения.
Интересно, что во многих видео, просмотренных Уотсоном, комментарии были отключены, что говорит о том, что контент-менеджеры YouTube заметили строку комментариев и пытались затруднить работу педофилов на их сайте. Но все эти подтвержденные усилия были осознанием нерешенной проблемы.
На самом деле ясно, что проблема восходит как минимум к 2017 году. В том же месяце, когда взорвался спор об «Эльзагейт», люди начали бить тревогу по поводу странных, неявно сексуальных комментариев к видео маленькие дети, сделанные для детей. Крупные рекламодатели, такие как AT&T, прекратили тратить деньги на рекламу на сайте, когда BBC сообщила, что неуместные комментарии к монетизированным видеороликам с участием детей часто включали временные метки для секундных моментов наводящих на размышления позиций и ссылки на видео, не включенные в список, - и рекламодатели не возобновляли расходы до появления проблемы. был «исправлен.21 февраля AT&T, которая в январе снова начала размещать рекламу на платформе, заявила, что прекратит расходы на рекламу на платформе. Hasbro, Nestle и Disney последовали их примеру.
Эльзагейт - это не то же самое, что группа педофилов, но проблемы взаимосвязаны. Контент-фермы воспользовались ключевыми словами и автоматически разместили рекламу на основе взаимодействия с каналом и некачественной фильтрации ИИ, а также создали мультфильмы, в которых использовались нелицензионные персонажи популярных детских франшиз. Многие из этих «контент-ферм», то есть компаний, создавших эти видео, имеют штаб-квартиры в таких местах, как Хошимин, Вьетнам. Они не были образовательными или подходящими для детей, но распространялись на YouTube для детей в виде монетизированных видео.
YouTube изменил свои правила монетизации после двойных скандалов 2017 года. Сегодня у создателей видео должно быть не менее 1000 подписчиков, а их видео должны быть просмотрены в течение 4000 часов. Эти правила были введены в действие только после Elsagate, и теперь компания утверждает, что все видео, которые монетизируются, будут просматриваться реальными людьми, а не искусственным интеллектом, чтобы обуздать неуместную рекламу (подумайте: реклама Google перед видео с изображением девочка-подросток ест леденец, набравший более 1 миллиона просмотров).
Вот почему так много видео с участием детей имеют отключенные комментарии под видео. 10 000 человек-рецензентов YouTube, которым поручено просматривать 400 часов отснятого материала, загружаемого на YouTube каждую минуту, также отвечают за просмотр взаимодействия с указанными видео и отключение неуместных комментариев, ссылок на видео, не включенные в список, или временных меток детей. в наводящих позициях.
Я создала новую учетную запись YouTube после того, как обнаружила, что мои алгоритмы настолько укоренились, что найти неприемлемый контент было сложно, и ввела в поиск то же самое, что искал Watson - «вытаскивание бикини». В течение 12 кликов я оказался в странной кроличьей норе детских видеороликов о борьбе и ночных упражнений девочек. Я наткнулся на одно 30-минутное видео и нашел это:
В 21:25 девушка на видео отошла от камеры и всего на секунду в поле зрения оказалась ее промежность.
Я также наткнулся на множество модельных видео с молодыми девушками явно моложе 18 лет. Комментаторы отметили, насколько красивы модели и как прекрасно они смотрятся в нижнем белье, несмотря на то, что это дети. Я не буду делиться видео, потому что они неуместны; но в том-то и дело, что эти комментарии не только надо долго мониторить, но, может быть, их вообще не должно быть на сайте. Никакие действия не были предприняты в отношении этих комментариев или самого видео, на котором несовершеннолетние моделируют нижнее белье.
А еще одна девушка выложила видео своего ночного распорядка после душа. Девушка, чья страница на YouTube называется «Опыт Макензи в Fortnite» и которой на вид не больше 13 лет, случайно двигает полотенцем так, как показано на видео, где показана сторона ее обнаженного торса на 2:47 минуте. отметка.
Очевидно, что это видео никогда не должно было быть загружено. Девушка на нем явно еще не достигла половой зрелости и одета в полотенце, что объясняет ее ночной распорядок. Это видео набрало около 51 000 просмотров. Остальные ее видео набирают от восьми до 150 просмотров. Итак, почему это происходит? Знает ли она, почему 51 000 человек просмотрели это видео, а ни одно из ее видео по Fortnite или видео с забавными поделками? Понимает ли она, что есть люди, которые не смотрят на это, потому что им наплевать на ее ночной распорядок, но они хотят видеть маленькую девочку в полотенце? Может быть. Возможно, нет. Она ребенок. Кто-то должен более внимательно следить за ее использованием Интернета, но это тоже сложно. И именно здесь должен был появиться YouTube, но этого не произошло. Это неприемлемый контент, даже если он не носит откровенно сексуального характера из-за способа его потребления. Это не возбуждает, если только вы не относитесь к тому типу людей, которые находят это возбуждающим.
Хотя эти видео не были монетизированы для рекламы, они также явно не отслеживались людьми или искусственным интеллектом - по крайней мере, неэффективно. Некоторых роликов вообще не должно быть на YouTube, но они должны иметь миллионы просмотров. Если комментарии и модерация контента будут такими же неэффективными, как кажется, дети по-прежнему будут объектом сексуального интереса на платформе, которая по-прежнему будет инструментом для хищников.
Поскольку YouTube становится местом, где все больше и больше детей просматривают видео, а также местом, где они демонстрируют свои творения, те, кто отвечает за платформу, должны принять решение о том, следует ли проводить модерацию в в интересах правдоподобного отрицания или в интересах защиты детей. Если компания придет к последнему выводу - а будем надеяться, что так и есть, - ей придется пересмотреть как штатное расписание, так и программное обеспечение. Если они этого не сделают, им следует пересмотреть свою роль в Интернете.