В Facebook впервые рассказали, как работает их цензура

"Убедительная просьба к пользователям! Избегайте насильственных угроз или не переусердствуйте с сексуальным насилием; не поощряйте терроризм или браконьерство; не пытайтесь купить марихуану, продать огнестрельное оружие или сбыть лекарства, отпускаемые по рецепту; не оповещайте о членовредительстве; не показывайте изображения несовершеннолетних в сексуальном контексте; или изображения массовых убийств в разное время и в разных местах", - напоминает агентство.

За цензурой в Facebook следят 7 600 модераторов, которые работают на 40 языках мира. В компании действует круглосуточная поддержка, где реагируют на сообщения сомнительного характера в режиме реального времени. В отдельных случаях они оповещают органы власти. Обновления стандартов для рецензентов контента происходят каждую неделю.

"Этические стандарты постоянно изменяются и дополняются. Одна из проблем заключается в том, что культурные "стандарты сообщества" очень разнятся во всем мире. То, что проходит в качестве приемлемой наготы в Норвегии, не может проходить в Уганде или в США", - говорит руководитель политики продуктов и контртерроризма в Facebook Моника Бикерт.

Facebook категорически отвергает серийное человекоубийство. Однако совершение убийства в целях самообороны может считать приемлемым. В документе также подробно говорится о том, что считается сексуальной эксплуатацией взрослых или несовершеннолетних, но есть места для запрещения других форм злоупотреблений, если это возникнет.

Отмечается, что чтение руководства для рецензентов убеждает, насколько трудна работа модераторов Facebook. Это люди, которым приходится читать и смотреть на нежелательные материалы каждой полосы, а затем делать жесткие предупреждения по телефону - например, решать, способствует ли данное видео расстройству питания или просто стремится помочь людям. Или различать тонкую грань, где заканчивается шутка, и начинается преследование, отделять измышления "в духе Раскольникова" от прямых угроз физической расправы и т.д.

Есть и более универсальные "серые зоны". Например, что именно считается политическим протестом? Как вы можете узнать, что человек на фотографии согласился опубликовать ее в Facebook? Этот последний вопрос является основной причиной запрета наготы в Facebook, отметила Моника Бикерт, поскольку "трудно определить согласие и возраст". Даже если, к примеру, человек согласился себя записать на пленку или сфотографировать, в компании нет уверенности, что он или она согласились опубликовать "ню" в социальных сетях.

Facebook также прибегает к помощи искусственного интеллекта, помимо рецензентов-людей, для отсеивания контента, который нарушает его политику. Однако ни машины, ни другие люди не всегда способны уловить тонкие различия в контексте и истории, не говоря уже об оттенках юмора и сатиры. И те, и другие зачастую ошибаются.

Как сообщалось, 11 апреля Марк Цукерберг дал 10-часовой отчет в конгрессе по поводу обвинений в нарушении конфиденциальности пользователей Facebook.