Новое исследование подчеркивает роль, которую алгоритмы Facebook невольно сыграли в вербовке ИГИЛ, и указывает на сохраняющиеся проблемы.
Для более чем миллиарда человек Facebook стал местом в цифровой вселенной, где они могли общаться с новыми друзьями и быть в курсе того, что делают далекие. Согласно новому исследованию, это также место, где тысячи членов ИГИЛ и потенциальных сочувствующих нашли друг друга.
Функция «предложенных друзей» или «людей, которых вы, возможно, знаете» гиганта социальных сетей невольно помогла террористам создать сети, говорится в отчете американской некоммерческой организации Counter Extremism Project. (КЭП).
Исследователи CEP изучили онлайн-жизнь 1000 сторонников ИГИЛ в 96 странах и обнаружили, что радикальные исламисты часто знакомятся друг с другом через Facebook. После того, как сотрудники CEP просмотрели профили исламистов, всегда полезный сайт предложил им десятки экстремистских связей.
Каков реальный эффект этого? CEP считает, что это помогло джихадистам по всему миру установить связь, создать новые террористические сети и набрать новых членов.
Важно отметить, что функция «Предложенные друзья» использует сложные алгоритмы для объединения людей на основе их общих интересов среди других критериев. Так что, если ваши интересы включают радикальный исламистский контент, Facebook использует его, чтобы найти вам новых друзей.
Грегори Уотерс, один из авторов отчета CEP, сам был завален предложениями для друзей, поддерживающих ИГИЛ, после того, как связался с одним активный экстремист за свои исследования. Его коллега Robert Postings был засыпан друзьями предложениями десятков экстремистов после нажатия на несколько страниц о восстании исламистов на Филиппинах.
«Facebook, стремясь связать как можно больше людей, непреднамеренно создал систему, которая помогает связать экстремистов и террористов», - сообщил Postings The Telegraph.
Были зарегистрированы многочисленные случаи, когда экстремисты радикализировали людей через социальные сети всего через несколько месяцев после первоначального контакта.
Соучредитель, председатель и главный исполнительный директор Facebook Марк Цукерберг (справа) прибывает для дачи показаний перед слушаниями в совместном комитете Сената по судебной и торговой деятельности в офисном здании Сената Харт на Капитолийском холме 10 апреля 2018 года в Вашингтоне, округ Колумбия.. 33-летний Цукерберг был вызван для дачи показаний после того, как стало известно, что 87 миллионов пользователей Facebook получили личную информацию от Cambridge Analytica, британской политической консалтинговой фирмы, связанной с кампанией Трампа.(Фото Win McNamee/Getty Images)
Facebook также плохо справляется с защитой экстремистских материалов после их обнаружения, не реагируя в течение длительного периода времени, не удаляя оскорбительные профили или позволяя удаленным пользователям повторно регистрироваться.
«Этот проект обнажил неспособность или нежелание Facebook эффективно бороться с экстремистским контентом на своем сайте», - объяснил г-н Уотерс The Telegraph. «Неспособность эффективно контролировать свою платформу позволила Facebook стать местом, где существуют обширные сети поддержки ИГ, распространяется пропаганда, радикализируются люди и вербуются новые сторонники».
Чтобы вы не думали, что это не имеет большого значения, мистер Уотерс указывает:
«Тот факт, что собственный алгоритм рекомендуемых друзей Facebook напрямую способствует распространению этой террористической группы на своем сайте, является неприемлемым».
Со своей стороны, Facebook рекламирует, что его подход работает, и его автоматизированным системам, как сообщается, удается удалить 99% ИГИЛ или Аль-Каиды -тематический контент с сайта. В нем также утверждается, что «не существует простого технического решения для борьбы с онлайн-экстремизмом».
Хотя Facebook может не знать или нести ответственность за все, что его пользователи делают на сайте (даже если он знает достаточно, чтобы продавать им гипертаргетированную рекламу), он подвергается критике со всех сторон. политического спектра за то, что они не сосредоточились на вопросах безопасности и отсутствии надзора, которые способствовали вмешательству России в выборы 2016 года. Конгресс даже опубликовал в Facebook тысячи рекламных объявлений, купленных русскими, для таргетинга на американских избирателей. Новое исследование, несомненно, окажет большее давление на Facebook, чтобы провести некоторые значимые реформы в том, как он кодирует и регулирует контент на своей платформе.