Владельцы аккаунтов постоянно высмеивают правила и ограничения Facebook, но каждое из них возникло не случайно и имеет вескую причину. Взять хотя бы недавнюю историю, когда Facebook предложил пользователям загружать свои «обнаженные» снимки; специальная программа блокировала фото, делая невозможной их публикацию кем-то посторонним. Над идеей потешались все кому не лень, но сотрудники Facebook, борющиеся с «порно из мести» (revenge porn), уверены: блокировать снимок до его публикации гораздо эффективнее, чем удалять постфактум. А эксперты по безопасности считают, что изобретенная компанией программа абсолютно надежна.

Facebook утверждает, что сейчас искусственный интеллект распознает почти 100% спама, 99,5% контента, связанного с терроризмом, 98,5% фейковых аккаунтов и 96% «сексуального контента». И даже 86% графических изображений, содержащих насилие, отслеживает именно искусственный интеллект, а не команда модераторов. Согласно внутренней статистике, на одну ошибку модерации приходится более ста постов с запрещенным контентом, удаленных еще до того, как их кто-нибудь увидел.

Но если порно и спам ИИ почти победил, то нюансы человеческой лексики даются ему сложнее. К тому же до сих пор нет общепринятых стандартов: что считать проявлением ненависти, а что нет. Поэтому сейчас искусственный интеллект распознает лишь 38% оскорбительных постов (да и то когда они написаны на английском или португальском).

Сейчас искусственный интеллект распознает лишь 38% оскорбительных постов (да и то когда они написаны на английском или португальском).

…В Facebook стремятся, чтобы решения по удалению пользовательского контента были приняты максимально объективно, без влияния человеческого фактора. Задача невыполнимая — для этого правила должны включать все потенциально возможные человеческие высказывания в прошлом и будущем, — но сотрудники компании не сдаются. Для модераторов разрабатывают все новые методические пособия с готовыми решениями. Увидев, например, пост про мигрантов, модератор сверяется с соответствующей схемой, где уже перечислены допустимые и недопустимые формулировки. Кстати, этот тренд на объективность появился вместе с социальными медиа: в дофейсбучную эпоху модераторы обычно удаляли контент, руководствуясь собственными представлениями о прекрасном.

В прошлогоднем открытом письме Цукерберг объяснил, к чему компания хотела бы прийти в вопросах пользовательской политики. Пока что технологии к этому не готовы, но в будущем ИИ сможет по активности людей в сети определять, какие виды контента им приятны. И тогда они будут видеть в Facebook только то, что не оскорбляет их, не раздражает и не ранит. «Каждый пользователь будет сам выбирать для себя контентную политику, — писал Цукерберг. — Что вы считаете недопустимым: наготу? Насилие? Богохульство? Это и будет вашими персональными настройками». Но пока до этого далеко.

Дэйв Уиллнер, создававший первые стандарты для модераторов Facebook, вспоминает, как все начиналось: «Когда Facebook еще был соцсетью колледжа, хватало одного модератора, и обязанностей у него было немного — удалять фото членов, спам и фишинг. Когда я присоединился, там уже была команда модераторов, но инструкция для них умещалась в одной строчке: „Удаляйте все, что вызывает у вас дискомфорт“».

В 2009 году у Facebook было 120 миллионов пользователей — и всего 12 модераторов. Но когда соцсеть пришла в страны, о которых ее создатели имели довольно смутное представление, потребовалось четко определить правила того, что можно и чего нельзя делать на сайте. Это стало очевидно в июне 2009-го, когда в Иране боевики убили оппозиционерку и выложили видео в Facebook. Чем более интернациональной становилась платформа, тем чаще там возникали конфликты и сложные ситуации. «Больше нельзя было оставлять решение за модераторами: все модераторы очень разные, а нам нужна была единая политика», — говорит Уиллнер.

В 2009 году у Facebook было 120 миллионов пользователей — и всего 12 модераторов. Теперь модераторов 7 500.

…Внутренние инструкции для модераторов, которые нам удалось получить, довольно любопытны. В одной из них предписывается банить «расизм» и «белое господство», но «белый национализм» и «белый сепаратизм» под запрет почему-то не попадают. «Белый национализм и призывы к государству белых не являются нарушением нашей политики», — сказано в одном из слайдов. (Позже представитель Facebook объяснил: правило добавили в попытке защитить любые сепаратистские движения, не только «белые»; к тому же национализм и сепаратизм, в отличие от расизма, не обязательно предполагают превосходство одной нации над другими.)

Несмотря на декларируемые заявления о «мире без границ» с одинаковыми для всех правилами, слайды показывают: с локальной спецификой платформе все-таки приходится считаться. Как минимум надо соблюдать местные законы, чтобы не вылететь с рынка. Один из сотрудников рассказал, что иногда Facebook выпускает пособия по той или иной стране, чтобы дать модераторам «локальный контекст». В Индии и Пакистане модераторы получили инструкции отслеживать потенциально нелегальный контент (например, изображения Мухаммеда или оскорбления Аллаха).

Согласно другому попавшему к нам документу, когда отказ Цукерберга удалять посты с отрицанием Холокоста вызвал возмущение в странах, где такое отрицание запрещено законом, Facebook заблокировал пользователям с IP-адресами этих стран просмотр подобных постов. Facebook уважает местные законы, «когда правительства этих стран активно следят за их исполнением», говорится в документе.

То, что позволено и не позволено на платформе, прописано в инструкциях с невероятной педантичностью: что считать разжиганием ненависти, а что нет, к чьим лицам можно прифотошопливать анусы, а к чьим нельзя. (Если фигура публичная, это обычно позволяется. Методичка приводит пример: «Фото Тэйлор Свифт с анусами вместо глаз: ДА. Фото Дональда Трампа с анусом на месте рта: ДА. Фото Ким Чен Ына с анусом вместо рта и торчащими из него анальными шариками: НЕТ. Исключение — не допускается изображение ануса крупным планом или ягодиц целиком: это подпадает под наш запрет контента сексуального характера».)

Facebook уважает местные законы, «когда правительства этих стран активно следят за их исполнением».

«Такие детальные инструкции — „защита от идиота“», — рассказывает еще один сотрудник компании. Модераторы редко бывают экспертами во множестве областей, вот Facebook и обеспечивает их готовыми формулами. Но, конечно, все многообразие человеческого общения трудно запихнуть в методичку.