フロリダ州パークランドのストーンマン・ダグラス高校で2018年2月、銃乱射事件が起きた。その後、陰謀説を取り上げることの多い極右サイト「InfoWars」が一連の動画をYouTubeに投稿した。生存者のひとりである活動家の高校生、デヴィッド・ホッグが犠牲者を演じていると糾弾するものだ。

これに対し、YouTubeは誹謗中傷に関わるポリシーに違反したとして動画の一部を削除し、InfoWarsに「ワンストライク」を言い渡したと報道された。YouTubeでは3カ月以内に「ツーストライク」を取られたチャンネルは、その後2カ月間、新しい動画を一切投稿できなくなる。「スリーストライク」を取られれば、完全にYouTubeへのアクセスを禁止される。

YouTubeは一見、最も反動的な動画作成者のひとりに有意義な対応を行ったかに見えた（InfoWarsがその後も動画を公開し続けているということは、ストライクは1つだけで済んだらしい）。しかし、InfoWarsはもう何年もの間、YouTubeで虚偽の動画やヘイトスピーチ、根拠の乏しい陰謀説を流布してきた。

ほかの学校で起きた別の銃撃事件についても、でっち上げとほのめかす動画を作成している。これはいまもYouTubeに残されている。一方で、別のチャンネルの陰謀説にまつわる動画は削除されている。こうなると、YouTubeのルールとはいったい何なのか、もう誰にもわからない。

YouTubeはポリシーを明文化し、適切と定めるものの詳細を表向きには示している。だが、InfoWarsやそのほかのグループに対する最近の対応を見ると、実際にはその線引きに一貫性がない。世間から非難の声が上がって動画の取り締まりに動いたように思える。実質的には、その場しのぎで玉虫色の判断になる可能性がある。

1分ごとに数百時間分もの動画が公開されるサイトとなれば、不適切な動画をチェックするのはとてつもなく大変な作業ではある。しかし、明確で一環したルールをつくり、どこまでが許されるのかを定めなければ、その作業はますます困難になるだろう。

理由なき削除は「担当者が熱心すぎたから」

YouTubeのコミュニティガイドラインには、陰謀説のように誤解を招く情報を含む動画の公開を明確に禁じる項目はない。それでも最近は、取り締まりを厳しくしている。

ニュースサイト「The Outline」が2月28日に報道したところによると、YouTubeは複数のアカウントを無効にしたり、あるいは警告としてストライクを言い渡したりといった対策を始めた。対象は、虚偽の情報を広めているとされる動画クリエイターや、銃を扱う人気動画のクリエイター数人だという。

こうした管理強化に乗り出したのは、YouTubeでシェアされる陰謀説が非常に多いという、新たな調査結果が出てまもなくのことだ。また、17年12月には、不適切な動画をチェックする管理担当者（コンテンツモデレーター）を1万人に増員すると発表した。

関連記事：コンテンツ・モデレーション：SNSのダークサイドを見つめる仕事

アカウントに警告を発したり、無効にしたりしたケースのほとんどにおいて、YouTubeがどのポリシーを適用したのかはっきりしない。ブルームバーグの報道によると、YouTubeは一部のアカウントを誤って削除したと認めたものの、それがどのアカウントであるかは明らかにしなかったという。

その後、YouTubeのモデレーターたちは完全に道を外れてしまったらしい。エアライフルに関連する一連の動画を、理由が不明確なまま削除した。YouTube側は責任の所在を熱心すぎるモデレーターたちにあるとしているが、そもそもコンテンツモデレーションの方向性がはっきり定められていない点にあるのではないか。YouTubeのポリシーの混乱ぶりを知りたいなら、責任を押しつけられたモデレーターたちに聞いてみるといい。

3カ月でリセットされる警告システムの「抜け穴」

これが、たった1週間のうちに起きた騒動だ。だが、もう何年も前からYouTuberたちは、YouTubeによる動画削除や広告差し止めの基準が不明瞭で一貫性がないと不満を訴えてきた。ここへきて、取り締まりはさらに場当たり的になってきているが、適切な説明がないという点はもう長い間、批判されてきたのである。

「YouTubeのようなプラットフォームのコンテンツを管理するには、鋭いメスで切り込むべきです。なのにYouTubeのやり方はまるで中世です。城壁の上から釜いっぱいの煮えたぎるタールを一面にぶちまけ、何とかなってほしいと願うのと変わりません」と、少数ながら視聴者を得ているYouTuberのマット・ウォレスは言う。

InfoWarsのアカウントに話を戻そう。コネティカット州サンディフック小学校で12年、銃乱射事件が起きた。死者28人を出した悲劇だ。そのほとんどが7歳未満だった。これをでっち上げだとする動画のうち、少なくとも7本がまだYouTubeに残っている。

動画のタイトルは「衝撃：サンディフックの大量殺人は米国土安全保障省（DHS）が仕組んだと学校安全の専門家が証言」、「サンディフック事件をでっち上げと考える理由」などだ。この銃乱射事件が米政府の企みによるものだとほのめかしている。

サンディフック事件の関連動画からは、YouTubeのポリシーにまつわる別の問題が浮き彫りになる。ストライク宣告システムだ。YouTubeは3カ月間でスリーストライクとされたアカウントを削除するとしている。もしInfoWarsが4年前のサンディフック動画でツーストライクまで受けていたとしても、今年2月にはデヴィッド・ホッグの動画をアップロードできたことになる。

3カ月ごとにリセットされる警告システムは、理にかなっている部分もある。純粋な間違いを許容できるなど、ある程度の寛大さを示せる点だ。しかし現在のシステムでは、ルールを何度も破るのは簡単だろう。単に、頻度を気をつければいいのだから。

特定の団体からの指摘で、たった2日で方針変更

さらにYouTubeは突然、方針を変更することもある。ネオナチのグループ「Atomwaffen Division」に動画の公開を許可したことについて2月末、ニュースサイト「The Daily Beast」に対し、その決定を弁護する発言をしていた。YouTubeの広報担当者は当時、次のように語っていた。

「ヘイトスピーチや過激な暴力性により、当社のポリシーに違反する可能性の高い動画については17年6月、広告やお勧め動画として掲載しないなど、さらに厳しい対応をとると発表しました。表現の自由と、悪影響を及ぼす動画の拡散防止とのバランスがとれると考えています」

だが、ニュースサイト「Motherboard」が米国最大のユダヤ人団体「名誉毀損防止同盟（Anti-Defamation League、ADL）」にこの動画の存在を指摘すると、ADLはこの動画を「即刻」削除すべきだとした。するとYouTubeは2月28日、Atomwaffenのアカウントを削除した。2日と経たずにThe Daily Beastへの発言を覆したことになる。

調査報道に力を入れるメディア「ProPublica」が2月28日に公開した記事によれば、Atomwaffenは少なくとも5件の殺人事件に関与しているとみなされている。YouTubeが社会からこれだけの圧力を受けたのち、ようやくその動画の削除に動いたというのは問題だろう。

Atomwaffenのアカウントが完全に削除されたいまも、このグループを宣伝する動画はかなり簡単にYouTubeで見つかる。広範囲に広がるインターネットサイトを管理するには、ニュース記事で指摘されたアカウント1つを削除するだけでは足りないのだ。

このケースは、社会の怒りがヘイトグループの動画削除につながり、前向きな結果になった事例と言える。しかし、世間の圧力はあらゆるかたちで、あらゆる標的に向けられる可能性がある。困難な決定を下すうえで、Youtubeが依拠すべきものにはなり得ないはずだ。

テック系メディアのチェックも機能せず

YouTubeのコンテンツ管理のポリシーが一貫していない例は、上記以外にもすぐに見つかる。パークランドの銃乱射事件のあと、YouTubeはこの大量殺人を陰謀だとする動画に対して何の対応も取らず、動画の再生回数は15万回を超えた。

今年1月にもYouTubeは矢面に立たされた。YouTuberのなかでも特に人気のひとりであるローガン・ポールが、木からぶら下がる死体の映った動画を公開したにもかかわらず、削除しなかったからだ。ポールはのちに、自らこの動画を削除した。

さらに17年11月にはメディアからの激しい批判を受け、児童虐待ヴィデオを作成していた複数のアカウントすべてのアクセスを禁止した。

YouTubeはトラブルが起きるたびに、それを契機として改善を行ってきた。今回の銃乱射事件も同様だ。いまYouTubeで「デヴィッド・ホッグ」と検索すると、ほとんどの場合は正規のニュース動画が出てくるだろう。これはYouTubeが陰謀説を広めないよう、ターゲット設定アルゴリズムを大きく変えたことを示す。

だが、何らかの指摘を受けるまで意味ある行動を起こさないというパターンは、今後も変わりそうにない。コメントを求める声が数多く寄せられても、YouTubeは応じなかった。

すでにほかから指摘も出ているが、テック企業を扱う記者たちは悪循環に陥っている。これまで引用してきたように、サイトのコンテンツ管理の妥当性をチェックするのが記者たちの業務の一部だからだ。

しかし、テクノロジー関係の記事の半分は1年以上前から、YouTube、Facebook、Twitterなどのサイトがなおも人種差別グループやリヴェンジポルノ、暴力をあおる人間を許容していると指摘するだけにとどまっているように思える。

これをどう乗り越えるかについては、そう簡単に答えは出ない。まずは透明性を高めることだろう。YouTubeがユーザーに対し、どのように動画をチェックしているか正確に示すようになれば、どこで線引きされるか、少なくともよりクリアにわかるはずだ。しかし現時点では、YouTubeそのものが、そのラインをわかっていないようである。

[ ユーチューブ／YouTubeに関する記事一覧 ]