"Я надеюсь, что кто-то убивает вас". Как работает "цензура" Facebook
В интернет попала схема модерации информации в соцсети Facebook. На фоне отключения "Вконтакте" и "Одноклассников" украинскими провайдерами новые данные, опубликованные The Guardian, уже окрестили цензурой от Цукерберга.
Основная цель модерации - удаление информации незаконного характера, но мы все знаем примеры, когда аккаунты пользователей блокировали в Facebook за оскорбления самого разного рода, в том числе - в ответ на другие оскорбления. Тут работал принцип "чем больше жалоб, тем лучше", и потому профиль украинского блогера мог быть заблокирован в результате тысяч жалоб российских. И наоборот, ясное дело. Глубоко в первопричинах конфликта никто не разбирался, и после появления схемы стало понятно почему. Guardian считает, что появившиеся инструкции поспособствуют дебатам о роли и этике гигантских соцсетей - вопрос не только в цензуре, но и в неоднозначности самих советов.
В целом, все логично: модерации в ФБ подлежат публикации, склоняющие к терроризму, самоубийству, расизму или порнографии. Но полностью защитить социальную сеть нереально - она слишком быстро росла, признаются источники Guardian. Регулируют работу модераторов более 100 учебных пособий, электронных таблиц и схем. А на принятие решения модератору, работающему на Facebook, отводится около 10 секунд - конечно, за такое время не вникнешь во все "причины и следствия". Только запросов на возможные фейковые аккаунты FB рассматривает около 6,5 млн в неделю.
Убийства и угрозы Трампу VS смерть животных
Опасные данные удаляют по приоритетности. Например, публикации вроде "пристрелите Трампа" - удаляются сразу. Как поясняется в инструкциях, такой текст "представляет угрозу для государства и его лидера".
А вот видео, на которых изображена насильственная смерть (как людей, так и животных), устраняют попозже - по мнению создателей инструкций, они могут помочь в понимании таких проблем, как психические заболевания. Есть также такое понятие, как "ненадежные угрозы". Например, выражение "отвали и умри" или рекомендация "как сломать шею суки" считаются ненадежными, так как чаще всего не влекут за собой конкретного действия.
Другие типы комментариев, которые могут быть разрешены, включают в себя: "Маленькая девочка должна держать себя в руках до того, как папа искалечит ей лицо" и "Я надеюсь, что кто-то убивает вас". Такие угрозы также считаются либо общими, либо не заслуживающими доверия.
Могут остаться в соцсети некоторые фотографии несексуального физического насилия и издевательств над детьми - если в них отсутствует "садистский или праздничный элемент". Только самые раздражающие фото издевательств над животными в действительности рекомендуется удалять.
"Мы должны сказать, что жестокий язык чаще всего недостоверен, пока специфика языка не дает нам разумного основания признать, что это уже не просто выражение эмоций, а переход к действию. С этой точки зрения фразы "Я собираюсь тебя убить" или "От..ебись и умри", не заслуживают доверия и являются жестоким выражением неприязни и разочарования", поясняется в рекомендациях. Люди обычно выражают пренебрежение или несогласие, угрожая или призывая к насилию в общем шуточным и несерьезным образом, считают в соцсети.
"Вконтакте" и в "Одноклассниках" также можно найти море прямых угроз смерти (в зависимости от объекта ненависти это могут быть представители определенной нации, страны, социальной группы, определенной субкультуры или же какого-нибудь политического движения/партии). И тут шансов, что удалят аккаунт или страницу, немного. Например, по запросу гей-парад в Херсоне - высвечивает группы сепаратистов, радостно предлагающие самые разные виды насильственной смерти как полиции, так и участникам "парада в городе - сердце "Новороссии". Это лишь один пример - групп, призывающих к захвату Украины, желающих оставить на планете только белую расу, групп догхантеров или ненавистников женщин - также хватает. Зато "вКонтакте" запрещает аккаунты на латинице, почти не позволяет сменить имя и может заблокировать вашу группу за аватарку, противоречащую крайне противоречивым законам РФ. Про "Одноклассников" говорить вообще сложно, призывы жечь все и вся, кроме православного мира, там тоже в ходу, но, возможно, это и "ненадежные угрозы".
Секс - путаются даже модераторы
Политика Facebook часто кажется непоследовательной и самим модераторам - правила, касающиеся сексуального контента, считаются одними из самых запутанных. К примеру, все произведения искусства, сделанные своими руками, демонстрирующие наготу и сексуальную активность, разрешены. Но секс в цифровом виде подпадает под запрет. Каким образом это отсеивается, сказать сложно - ведь пользователи регулярно создают группы с порноконтентом и добавляют туда людей бесконтрольно. Преимущество FB в этом случае перед ВК и ОК - в хорошей регуляции настроек приватности и возможности заблокировать пользователя лично для себя. После этого ни ему, ни вам не будет видно публикации и комментарии друг друга. Парадокс такого блокирования неплохо обыгран в последнем сезоне сериала "Черное Зеркало" - там, правда, использованы элементы дополненной реальности. Разрешено в FB и видео с абортами, но - при отсутствии наготы.
Как бы там ни было, но "вКонтакте" при запросе "Гермиона", "лес", "ночь", "геи" - от самых невинных до более "взрослых" словосочетаний - есть большой шанс наткнуться на откровенный порноконтент с заголовками вроде "отец имеет дочь". На самом деле в тело новости с контентом просто забиваются теги, совершенно не относящиеся к результату поиска. В этом смысле поиск порновидео в FB представляет хотя бы некоторую сложность, и случайно наткнуться на него непросто.
Глава отдела глобальной политики Facebook Моника Бикерт говорит, что службе с двумя миллиардами пользователей непросто договориться о разрешенном и запрещенном контенте. Пытаясь "скользить" по теме насилия, соцсеть регулярно получает общественное осуждение за то, что не удаляет отдельные видео смертей и мучений. В то же время в FB считают, что таким образом повышают уровень осведомленности и эмпатии, а это может в дальнейшем уменьшить количество случаев насилия.
Еще один момент, из-за которого в отношении Facebook могут появиться комментарии о цензуре, это желание компании избавиться от заголовков-приманок. Компания планирует проанализировать два параметра: скрывает ли заголовок информацию и преувеличивает ли ее значимость. "Люди говорят нам, что не любят сенсационные, спамовые и обманывающие их сюжеты", - подчеркивают инженеры Facebook Арун Бабу, Энни Лю и Джордан Чжан. Такие публикации будут скрывать в ленте и показывать реже. Ранее, как уже писала "ДС", FB также планировал маркировать фейковые новости как ненадежные.
Честно говоря, политику "ДС" в отношении модерации ленты следует называть скорее не цензурой, а информационного гигиеной. Попытка бороться с фейками и заголовками-приманками - также способ "очистить" информплощадку от мусора и неправдивого шлака. Насколько успешна эта борьба, с учетом сложности автоматизации процесса и 10 секундах на решение - скажем, она явно успешнее, чем в российских социальных сетях. Которые с точки зрения правил никак нельзя назвать свободнее, но вот шлака и мусора там - еще больше. Конечно, история про сразу отсеиваемый призыв убить Трампа и видео с насилием, призванный чему-то научить, - это повод для этических споров и конференций психологов о том, может ли видео с насилием предупредить о насилии. А также - о равноправии, ведь "угроза лидеру государства угрожает государству", но как же - обычные люди, угрозы которым могут и подзадержаться в сети?
На деле избежать жестокой информации в современном мире сложно. С этим пока не справились ни Google, ни Facebook. Twitter, в то же время, обещал банить пользователей за комментарии, в которіх присутствует "язык ненависти". То есть то, что FB считает непрямой угрозой, которая дает человеку выплеснуть ненависть в Интернет, Twitter решил убирать, так как это может способствовать суицидам подростков. Отсюда вывод: единого мнения о безопасном публичном пространстве в соцсетях нет и вряд ли будет в ближайшее время. Комфортную для себя каждый выберет сам.