英国の民間放送局であるチャンネル4の報道番組「Dispatches」のリポーターが、Facebookの不適切なコンテンツを仕分けするモデレーター向けのトレーニングを潜入取材した。そこで見せられていた動画や画像は、どれもひどいものばかりだった。

2〜3歳の男の子が大人の男にひっぱたかれ、殴られ、蹴られ、足で踏みつけにされる動画。10代の女の子ふたりがケンカをして、片方の女の子が蹴られて、気絶する動画。ほかにも、手からひじまで半分くらいまで傷で覆いつくされた“自傷癖”のあるティーンエージャーの手首や、黒人の男の子に恋をしたという理由で母親に溺死させられる若い娘のマンガまである。

しかし、最もショッキングな事実は単純で明快だ。クリック率を上げて広告料を稼ぐために、このような動画や画像をフェイスブックがサイトに残したままにしていたことである。現在、同社の創業期の投資家たちの一部が、再びフェイスブックのビジネスモデルを根本的に変革するよう求めている。

過激で危険なほど人は集まる

これは少し古い話題でもある。2017年には同様のニュース記事が、多くのメディアで取り上げられた。例えば、非営利・独立系の米報道機関であるプロパブリカや、米大手テクノロジー系メディア「The Verge」、そして英大手新聞の『ザ・ガーディアン』などだ。

これらの報道を機に、フェイスブックの社会的信頼は失われ、同社が公言する「世界を密接につなぐ」という経営理念を信じる人はほとんどいなくなった。エンゲージメントを促進し、ユーザーのデータを売り、実体のない幻想をつくり出して、人びとをバラバラに引き離す。フェイスブックはそういう企業だと、世界が知ってしまったのだ。

われわれは同社のサイトに有害なコンテンツがあることを知っている。しかし、自傷行為の生々しい画像や幼児虐待の動画、怒り狂う人種差別主義者の暴言を、ほとんどの人が見逃している。

「Dispatches」の製作チームは、Facebookのモデレーションの危機をスクープした。番組のなかでは、ぞっとするような実情を暴いている。例えば、2011年に結成された反移民・反イスラムを掲げる英国の極右政治団体「ブリテン・ファースト」や、過去に何度も有罪判決を受けている極右活動家のトミー・ロビンソンのようなヘイトグループの存在を、フェイスブックが野放しにしてきたのは無視できない問題だ。

ロシアのボットが、個人のサイトを使って米国の選挙や英国のEU離脱を問う国民投票に干渉していた問題は、一般人の手に負えるものではない。「本当に驚いた」と、ぼやくことぐらいしかできないかもしれない。しかし、トラフィックを増加させるために過激主義者を“保護”するようなことは、見逃すわけにはいかない。

創業期のフェイスブックに投資したロジャー・マクナミーは番組のなかで、次のように語っている。この種の素材は「Facebookの産物のなかの“クラックコカイン”（中毒性の強い高純度の固形コカイン）です。このプラットフォームと強くつながっているユーザーをひきつける、極めて過激で危険なコンテンツなのです」

マクナミーによるとフェイスブックは、ユーザーがプラットフォームに長時間とどまることが、会社にとって好都合だと考えている。それだけ多くの広告を見ることになるからだ。ユーザーに対するアピール度を極限まで高めるためには、過激なコンテンツが必要なのだ、と彼は主張する。

「過激な言動に走る人物は、50人や100人のユーザーを簡単に集めることができます。だからこそ、フェイスブックは過激なコンテンツをできるだけ多く手に入れたがるのです」

モデレーターは見て見ぬふり

「Dispatches」の潜入リポーターは、アイルランドのダブリンに本拠を置くIT系人材派遣会社のCPLリソーシズのコンテンツ・モデレーターとしてトレーニングを受けた。同社はフェイスブックが抱える英最大のコンテンツ・モデレーション・センターだ。

彼は児童虐待の生々しい画像や動画をはじめとする暴力的なコンテンツが、サイトに残されていることに気付いた。ユーザーから「不適切」のフラグを付けられて削除要請がされているにもかかわらず、残されたままだ。

潜入リポーターは、そのコンテンツが明らかに13歳未満の子どもの画像や動画である場合は、何もするなと言われていた。たとえ、コンテンツに自傷行為が含まれていてもだ。

「13歳未満の子どもは（フェイスブックの）アカウントをもつことができませんからね」と、トレーナーは説明したという。「彼らが嘘をついているとしても、われわれは無視します。彼ら自身が13歳未満であると認めるなら、対応しなければなりません。しかし、本人が認めないなら、見ないふりをします。もしくは、13歳に達しているかどうか見分けることができないふりをするだけです」

あるとき、リポーターが児童虐待の動画をサイトに放置するのはどうしてなのかとトレーナーに尋ねたところ、次のように答えたという。「検閲しすぎると、ユーザーがプラットフォームへの興味をなくしてしまいます。大事なのは、一日の終わりにどれだけ金を稼いだかです」

リポーターの潜入中に、違法なファシストテロ集団「ブリテン・ファースト」のページが、ついにFacebookから削除された。しかし、CPLのモデレーターはレポーターにこう言った。この決定はフェイスブックの最高レヴェルで下されたに違いないと。なぜなら、Facebookのポリシーに対する違反が5回もあれば、ほとんどのホームページは削除されるそれなのに、ブリテン・ファーストはすでに8〜9回は違反していたからだ。

「ブリテン・ファーストが多くのフォロワーを集めていているのは明らかです。フェイスブックに多額の収入をもたらしているので、保護されていたんです」とトレーナーは話す。そして、移民に向けられた人種差別主義を掲げたコンテンツは無視するようにとも指示を出した。

マクナミーが考える唯一の解決策は、Facebookの利用に対して対価を支払う「サブスクリプションモデル」に転換することだと言う。「現行モデルは、Facebookが主にデスクトップで利用されていたときに構築されたものです。スマートフォンはデスクトップよりはるかに中毒性があります」とマクミーは指摘する。

「わたしが望む最高の結末は、フェイスブック自身で解決することです。正直なところ、それはゼロに等しいチャンスでしょうが、ひとつだけ解決に導く方法があります。それは彼らがビジネスモデルを変更することです。そもそもFacebookのインセンティヴが間違っているので、ほかの方法はどれも成功しないでしょう」

求められる透明性と規制強化

フェイスブックのやり方に、広告主らも明らかにいらだち始めている。ユニリーバは18年2月、Facebookのネガティヴなコンテンツを理由に、同社への広告を取りやめると警告した。17年にはユニリーバのライヴァルであるP&Gも同様の警告を発している。P&Gはその後も売り上げに悪影響を与えることなく、1億ドル（約110億円）のデジタル広告料を削減した。

英広告主協会（ISBA）をはじめとする広告主のロビー団体は、広告主から完全に独立した自主規制機関の設立を強く求めている。ISBAの事務局長フィル・スミスは、「われわれはフェイスブックのビジネスモデルが、どのように進化してきたかを調査する必要があります」と話す。

「競争に勝ち、生き残るために、フェイスブックはユーザーをサイトにできるだけ長い時間ひきつけておきたいという、強力なインセンティヴをもっていました。エンゲージメントを高める要素を理解し、良いニーズと悪いニーズを分けるプロセスの調査は、公開で行われるべきです。もしフェイスブックに責任があるならば、社会はどのように責任を問えばよいのでしょうか？」

さらにスミスは、透明性を高めるために、フェイスブックは内部監査プロセスを第三者機関に引き渡すことを考えるべきだ、と述べた。

すでにISBAは、ロンドン警視庁や反ヘイトクライムの慈善団体「ストップ・ヘイト・UK」、英国の住宅金融組合と協力して、広告主やヘイトスピーチに関するガイドラインを作成して公表しようとしている。同組合は以前、同組合の広告がソーシャルメディアで受けたコメントについて懸念を表明したことがある。

「このガイドラインは広告主に対して、ヘイトスピーチに対抗できる明確で簡単なルートを提供します。このルートであれば、炎上したり、個人（あるいは一集団）にコメントが殺到したりすることはありません」

このガイドラインには「容認できないコンテンツを識別し、＃challengehateや＃reportedなどのハッシュタグを使ってフラグを付けること。状況に応じて、適切なプラットフォームかどうかを警察に報告すること。フラグの付いたコメントの量を監視することで、ISBAは問題の規模をはっきりとらえられる。そして誹謗の対象になっている人を支援する」ことなどが盛りこまれている。

試されるフェイスブックの本気度

「Dispatches」のなかで、フェイスブックのパブリックポリシーの責任者を務めるリチャード・アランは、削除しそこなった侮辱的なコンテンツがあることを謝罪した。しかし、収入に基づくルールの存在は否定した。「コンテンツが実際に違反しているなら削除されます」

アランは続けた。「これは金にまつわる議論ではありません。政治的な発言に関する議論です。ユーザーは移民問題のように扱いがとても難しい問題について、Facebookで討論しています。そうした討論にレヴュワーが集まるのは当然のことです。また、ユーザーは政治的発言を削除する前に、慎重に検討することをFacebookに求めています」

しかし、フェイスブックがすでに外部からの圧力に対応している兆しも見てとれる。フェイスブックは、さまざまな反応に対するモデレーターのガイドラインを18年4月に公表した。さらに5月にはCEOのマーク・ザッカーバーグが、怒れる株主たちに対して今後の方針を示している。

また18年2月には、アメリカン・エキスプレスのCEOだったケネス・シュノールトを、白人以外では初の役員として取締役会のメンバーに加えた。さらに5月には、バラク・オバマ政権下で国家経済会議の委員長を務めたジェフリー・ジエンツを、メッセージアプリ大手ワッツアップ（WhatsApp）の共同創業者であるジャン・コウムに替えて役員に迎えたことを発表している。

それでもマクナミーは、まだ納得していない。「フェイスブックはとっくの昔に、この問題を解決していると思っていました。わたしは当惑しているし、正直に言えば、ひどくガッカリしています。Facebookのモデレーションはひどすぎる。すべてがひどい。それなのに気分よくいられるはずがありません」