【UPDATE 2019/01/11 16:15】

FacebookがDevolver Digitalの広告掲載を却下した理由を説明。『GRIS』の画像・動画ではなく、広告リンク先に含まれているコンテンツが原因であると明示した（関連記事）。

【原文 2019/01/09 16:40】

Devolver Digital（以下、Devolver）は1月8日、同社が販売を手掛けるアクションアドベンチャーゲーム『GRIS』の広告が、性的なものを想起させる表現を含むという理由で掲載を拒否されたことを、同社の公式Twitterアカウントにて明らかにした。

Devolverはこの問題について「反論したが、Facebookはヌードを認めないという理由で訴えを退けた」とし、Facebookの判断は「ばかげている」と憤りを明らかにしている。Facebookの広告掲載に関しては、過去にも政治シミュレーションゲーム『Democracy』シリーズの広告が「政治広告」であると誤認され、掲載を取り消されたことがある（TechRaptor）。

『Democracy』の広告取り消し騒動の背景には、2016年のアメリカ大統領選挙がロシアによる情報操作の影響を受けたとの疑惑を踏まえた、Facebookの政治広告規制強化がある（ロイター）。下院諜報特別委員会の民主党議員が公表した情報によれば、ロシアのインターネット調査機関であるIRAが2015〜2017年の2年間にFacebookに掲載した政治広告は3519点にのぼる（TechCrunch）。Facebookが政治広告を規制するのは無理もないことだと思われるが、規制強化以降、教育問題を扱った記事まで「政治広告」として規制されるなどトラブルが相次いだ（ハフポスト）。

『Democracy』についてはその後、開発元のPositech Gamesの創立者であるCliff Harris氏がFacebookが主張する「Googleの広告ポリシー違反」にあたらないと再審査を求め、広告掲載が再開されている。しかし、今回のケースではその反論も認められなかったということになる。

※問題とされたトレーラー。性的と指摘されたシーンは40秒から5秒間ほど

Facebookとゲームの広告を巡っては昨年、Team Meatのアクションゲーム『Super Meat Boy』も性的に露骨であるとの理由で広告が取り消されるなど、トラブルが起きている（Nintendo Life）。Zyngaの『FarmVille』などソーシャルゲームの人気でユーザーを獲得してきたFacebookが、（広告とはいえ）ゲームの表現規制に厳しい姿勢を見せていることは注目に値するだろう。

今回のケースについてDevolverは、海外メディアKotakuで次のように反論している。

「そもそも彼女は彫像であり、さらにいえば画像はまったくヌードには見えない。ふつうの人であればこれを“性的コンテンツ”とはみなさないだろう」

Devolverの主張は、コンテンツが性的であるかどうか議論される際によく俎上に載せられる点を、よく要約しているといえるだろう。

つまり、

・「ふつうの人であればこれを“性的コンテンツ”とはみなさない」＝客観的に見て性的ではない

・「そもそも彼女は彫像である」＝もとより“架空のイメージ”なので問題ない

・「ばかげている」＝ばかなAIアルゴリズムに従うのは愚か者のすることである

ということだ。

本稿では上記3点について、Devolverの主張の妥当性を確認してみたい。

客観的に見て性的ではない

性的か否かのガイドラインを巡っては、今回のケース以外にも世界中で活発な議論が交わされている。議論が起こる理由は、性的な基準は国や宗教によって異なり、多種多様だからだろう。例えば中国ではBL同人誌も“異常な性的関係や行為を描いたコンテンツ”として規制の対象とされてしまう。それが良いのか悪いのかはともかく、国や文化が異なれば、“なにをもって性的とみなすか”の基準は異なって当然といえる。

それらの議論を踏まえたうえで、今回の『GRIS』のイメージは性的といえるのだろうか？これはあくまで筆者個人の意見だが、「極論すればこれを性的で不快と感じる人もいるだろう」と言わざるを得ない。そもそも国や宗教、年齢によって異なる基準を、ネット上でむりやり統一しようという試み自体、かなり無理筋であり、乱暴なものではないだろうか。いうまでもないことだが、Facebookは世界中でサービスが展開されている。“Facebookの基準”が“（比較的）性に開放的な国々の基準”より厳しくなることはあり得るだろう。表現の自由と特定の人々への配慮のどちらを優先するかを決めるのは、あくまでFacebookである。FacebookにはFacebookの基準があり、YouTubeにはYouTubeの基準がある。この点において日本人や欧米人の感覚だけを根拠に、Facebookの基準がおかしいと批判することは出来ないだろう。もちろん不快に思う特定の人々だけをゾーニングすることは可能だが、次には“ゾーニングの基準”をめぐって議論が巻き起こるだけなので、現状ゾーニングはその解決策になっていない。

またゾーニングによって起こる問題もある。先述のHarris氏は、『Democracy』の広告がブロックされた際に、8か国・3つの言語で広告を配信していたため、8か国それぞれ個別に3か国語で合計24回の対応を迫られたことを明かしている（TechRaptor）。国によって異なる基準を設けることで、かえって問題が煩雑になってしまうのでは、本末転倒だろう。

もとより“架空のイメージ”なので問題ない

Devolverの指摘するとおり、問題のイメージは人物を描いたものではない。動画を見ていただければわかるが、問題の女性はあくまで“アクションゲームの足場”であり、“巨大な彫像”である。動画中で主人公は彼女の頭上を歩いているし、彼女はひび割れ、壊れてしまうのだから人間ではあり得ない。しかも彼女は、日本の基準でしばしば議論の的となる“架空の人物を描いたイラスト”に過ぎない。

Kotakuによれば、DevolverはFacebook上で性的コンテンツを検索し、すぐに次のような画像を発見したという。誰の目から見ても明らかなヌード画像である。

Facebookはポリシー上でヌード画像について次のように定めている。

「Facebookのヌードに対するポリシーは、時代とともにより複雑なものに変化しました。抗議の表現、意識喚起、教育や医学的な理由など、さまざまな理由でヌード表現が必要となる場合があります。このような意図が明確である場合は、ヌードコンテンツの投稿が認められています。例えば、女性の乳首を含む胸の画像は禁止されていますが、抗議活動、授乳の様子、乳房切除手術後の医用写真などの画像は規制の対象にはなりません。また、ヌードの人物を描いた絵画や彫刻などの芸術作品の写真の投稿も認めています。」

Devolverは今回のケースを、彫刻を描いた絵画であると主張したが、Facebookはそれを認めなかった。たとえイラストであったとしても今回のトレーラーはFacebookの禁止事項に抵触しているということだろう。

※Devolverが指摘していると思われるページ。筆者も1分ほどで発見することが出来た

架空の画像が性的コンテンツの対象となるか否かが議論となることは多い。主に幼女を描いた性的コンテンツにおいて「被害者が実在しない」ことから、問題とはならないという主張である。しかし近年、アメリカの裁判所においても「コンピューターによって生成された画像が（国家）公民権法上の“肖像”となり得る」との判断が下された（関連記事）ように、現代のグラフィック技術は実在の人物と瓜二つの肖像を描きうるレベルに達しており、描かれた人物が実在するか否かの境界は極めて曖昧になっている。その点を踏まえれば、今回のCGにおいて「実在しない彫像を描いたものだ」というDevolverの反論には、あまり意味がないかもしれない。

ばかなAIアルゴリズムに従うのは愚か者のすることである

そもそも今回、“性的か否か”を判断したのは“誰”なのだろうか。最終的に判断を下したのはFacebookだが、まず第一に判断するのはFacebookが設定したAIのアルゴリズムだ。『Democracy』の件だけを見れば、アルゴリズムが誤認したことをFacebookも認めている。Facebookのアルゴリズムが愚かであることは間違いないだろう。実際、現代のAIがまだまだ愚かである証拠はいくらでも挙げられる。例えば、性的コンテンツだらけになったTumblrは規制を強化した結果、「天空の城ラピュタ」のシータとパズーさえも不適切なコンテンツとして規制してしまった（digg）。

Tumblr did it. the unspeakable.

It flagged Ghibli. pic.twitter.com/7ZIeb8tY5R — vika (@viria13) December 4, 2018

では、AIが賢ければ問題は解決されるのだろうか。愚かなアルゴリズムが賢明になりさえすれば今回のような問題は解決可能だという意見も多い。今回のようにAIが何の変哲もないイメージを性的だと感じるのも、マイクロソフトの対話型AIが公開からわずか16時間でナチスを称賛するようになったのも、アルゴリズムが愚かだからだというわけだ。

しかし、アルゴリズムがどれだけ賢明になったとしても倫理的な問題を解決できないことは、既に広く知られている。具体的な例としては、自動車の完全自動運転におけるトロッコ問題（トロリー問題）の解決が極めて困難であるとの指摘が挙げられる。

トロッコ問題とは、

・進行中のトロッコの先に身動きできない5人が横たわっており、そのままでは5人をひき殺してしまう

・5人の前に分岐点があり、別の線路に進路を切り替えれば5人が犠牲になることは避けられる

・しかし分岐した先の線路にも一人の作業員がおり、進路を切り替えれば作業員が確実に死ぬ

というものだ。5人を助けるために1人を犠牲にしてよいのかという哲学的命題である。同様に「自動運転の自動車は運転者の生命を守るために、歩行者の生命を犠牲にすることが許されるか否か」という問題がしばしば議論される。（The Verge）いまのところ自動運転のAIは、この問題を解決しない。犠牲になるのが運転者か歩行者かは、結局のところアルゴリズムの設定次第なのだ。“アルゴリズムが賢明か否か”は、本質的な問題ではない。

以上を踏まえてDevolverの主張に反論するとすれば、次のようなものになるだろう。

「性的に見えるか否かの客観的基準は存在しない。肖像であるかどうかは、問題の本質とは無関係である。アルゴリズムが過ちを犯すことは間違いないが、賢い哲学者にも画像が性的か否かを判別することは難しい。」

ずいぶん横道にそれたが、そろそろ結論に移ろう。

筆者が言いたいことは、じつはただ一つ「これをヌードだといわれるのは気の毒すぎませんか」ということだ。『GRIS』の水彩画風のアートスタイルは美しいし、ゲーム自体、現代アートの表現方法の一つといっても過言ではないだろう。『GRIS』が性的コンテンツであるわけがないし、当該女性のイメージはどう考えても架空の肖像だし、FacebookのAIアルゴリズムはときに過ちを犯す。もちろん筆者の意見は全く論理的ではなく、ただの感情論だ。異論は受けつける。だが論理的な意見が常に正しいとは限らないのではないだろうか。

今回の件も『Democracy』シリーズのトラブルも、Facebookが透明性を高めるとの理由でガイドラインを改訂し、監視を強化したことによるものだ（CNET Japan）。Facebookは監視を透明化するといいながら、現実には不透明な基準により政治広告の規制を強めるなど段階的に規制を強化してきた。一方、中国ではネット上の性描写の規制強化（AFP）に対し、ユーザーがより規制に寛容なサービスへ乗り換えるなどのデモンストレーションによって、表現規制を撤回させることに成功している（Newsweek）。国やサービスによっても大きく異なる表現規制の基準が、今後より強化されていくのか緩和されていくのかは誰にもわからない。ユーザーにできることは、サービスの基準を変えるのではなく、自分の基準にあったサービスを選択することなのかもしれない。

『GRIS』は現在、Nintendo Switch、Steam（Windows/Mac）で発売中だ。