Кто и как чистит фейсбук от ненависти и экстремизма

После недавней трагедии в Портленде, когда неонацист Джереми Кристиан зарезал двух человек, возмутившихся его расистскими высказываниями в адрес двух мусульманок, в СМИ обратили внимание на страничку преступника на фейсбуке. Как и ожидалось, она пестрила агрессивными ультраправыми постами: реабилитацией нацизма и угрозами антифашистским активистам.

Таким постам, кажется, не место в публичном пространстве, а именно так себя позиционирует соцсеть. Однако у компании серьезные трудности с зачисткой подобного контента — и это лишь подтвердили слитые за несколько дней до трагедии гайдлайны для разбросанных по миру модераторов фейсбука.

The Facebook Files — это ряд публикаций в The Guardian по мотивам слитых газете документов, регламентирующих работу четырех с половиной тысяч модераторов, которым приходится ежедневно просматривать часто шокирующий контент, на который жалуются пользователи. Как стало известно, гайдлайны разграничивают необоснованные и обоснованные угрозы насилием. Если кто-то пишет, что всех мигрантов надо отправить в газовые камеры, то такие посты и комментарии должны удаляться, потому что они в той или иной степени аргументируют насилие в отношении уязвимой группы. По схожим причинам необходимо удалять комментарии, направленные в адрес конкретных публичных персон: глав государств, полицейских, активистов, журналистов, информаторов. Таким образом, писать «пристрелите Дональда Трампа» (или Хиллари Клинтон, кому как нравится) — табу. С другой стороны, комментарии вроде «давайте избивать толстых детей» или банальное «я тебя убью» удаляться не должны, так как они могут быть просто проявлением фрустрации и выплеском негативных эмоций.

Много вопросов вызвали видео и фото с издевательствами над детьми. Facebook, естественно, удаляет контент с сексуальным насилием над детьми, но создает своего рода «серую зону», когда дело касается насилия несексуального характера: физического и вербального. Подобного рода контент оставляют под сомнительным предлогом, что он может привлечь внимание соответствующих органов. В случае если фото или видео сопровождают одобрительные садистские комментарии, то они летят в корзину.

Похожим образом модерируют и видео жестоких смертей: их также удаляют только в том случае, если человек, загрузивший видео, открыто радуется тому, что на нем происходит. В противном случае видео не нужно трогать, так как, согласно правилам компании, оно может способствовать осведомленности о том, что происходит в мире, например, о случаях полицейского насилия. И, хотя не все рады появлению таких роликов в ленте и были случаи, когда от соцсети требовали удаления конкретных видео, Facebook придерживается принципа «чем больше контента, тем лучше», не забывая ссылаться на свободу слова и здравый смысл.

Как и следовало ожидать, слитые гайдлайны вызвали шквал критики, в первую очередь из-за слишком топорных интерпретаций и вообще того факта, что компания втайне от всех пытается решать, что является нормой в Сети, а что нет. Меньше внимания привлекла фигура собственно модератора — того, кому приходится просматривать весь «помеченный» контент, от которого даже стойким ребятам станет не по себе, и всего за несколько секунд решать, стоит его удалять или нет. Есть, правда, и третья опция — «escalate», когда решение о том, что делать с тем или иным постом или видео, принимает старший менеджер. Кроме того, если речь идет о возможных суицидах или самоповреждении, то в дело вступает команда, которая связывается с различными группами поддержки.

В основном модерацией заняты субподрядчики, такие как берлинская компания Arvato. Как стало известно немецкому изданию Süddeutsche Zeitung, ответственному за публикацию «панамских архивов» и в котором еще в декабре частично публиковались гайдлайны Facebook, чтобы не допустить утечку правил, доступ к ним возможен только через внутренний браузер Arvato. Таким образом, работодатель может отследить, когда и по какому поводу работник обращался к гайдам. Модераторам запрещено общаться с прессой, доступ в здание Arvato закрыт даже политикам. А тот факт, что окна офисов заклеены от посторонних взглядов специальной пленкой, окончательно превращает все в часть сценария очередной дистопии. Впрочем, не все так плохо: недавно в компании появился дипломированный психолог и возможность в определенное время делать 15-минутные паузы, во время которых, правда, модераторы все равно видят перед глазами весь тот ужас, что им приходится просматривать в течение дня.

Всего на сегодняшний день в Facebook работает четыре с половиной тысячи модераторов, и компания поделилась планами нанять еще три тысячи, не распространяясь, впрочем, об улучшении рабочих условий или увеличении зарплаты (один из источников The Guardian сообщал о 15 долларах в час, что, учитывая постоянный стресс и давление, однозначно мало). Ясно, что компания может позволить себе содержать пул модераторов больше заявленного, однако будут ли меняться гайдлайны в ответ на критику, неизвестно.

История со сливом оставила больше вопросов чем ответов, причем вопросов как к компании, так и к ее критикам в западных правительствах. Один из главных вопросов: как так вышло, что мы узнаем о том, как конкретно составляется наше ежедневное информационное меню, не из обычных докладов, а из слива? Как так вышло, что родившийся в гарвардском общежитии сайт стал настолько масштабным, что, как пишет журнал The Atlantic, «сам себя не понимает» и не может контролировать то, что на нем происходит? Как так вышло, что глобальная публичная сфера стала вотчиной частной компании, которая может в одиночку и в секретной форме диктовать, что нормально, а что нет? И это вопросы не только к Марку Цукербергу; да, он разработал уникальную рыночную модель и успешно ее монетизировал, замахнувшись на создание глобальной социальной инфраструктуры и параллельно стараясь максимально избегать ответственности и не отвечать по существу на критику. Однако условия, в которых возможно развитие таких монополий, отнюдь не его авторства, и здесь как раз надо спрашивать с правительств, которые начиная с 80-х отдают все, что проходит по тегу «социальное» и «публичное», на откуп свободному рынку и частным компаниям.

Если вернуться к истории в Портленде, то взгляды на нее Facebook и его критиков будут диаметрально противоположными: условный Цукерберг скажет, что в соцсети просто отражаются фобии и предрассудки, существующие офлайн; критики скажут, что внутри соцсети действует своя, особая логика, которая способствует распространению экстремистских идей и радикализации. Правда, скорее всего, где-то посредине. В этом смысле лучшее, что могут сделать обе стороны, — это начать диалог и серьезные исследования того, почему фейсбук превратился (или не превратился) в рассадник ненависти. Это требует открытости со стороны соцсети, которая из-за своей секретности — и в отличие от того же Twitter — плохо доступна для социальных исследований. И здесь также необходима политическая воля — принуждение к открытости, если хотите. Причем не только Facebook, но и множества других корпораций.