2018年12月06日 19時00分 ネットサービス

成人コンテンツを禁止したTumblrのガバガバ過ぎるAIがポルノ画像と判定してしまった健全な画像まとめ

by Julian King



アダルトコンテンツの投稿禁止を新ガイドラインに設けたミニブログサービス・Tumblrが、独自の人工知能(AI)を利用してTumblr上に投稿された画像の中からアダルトコンテンツに相当するものを自動で選別し、警告を送り出しています。しかし、このアルゴリズムの判定があまりにもお粗末なために、健全な画像もポルノ判定を下されまくっていると話題になっていて、Twitterでは次々と報告があがっています。



Tumblr’s porn ban is going about as badly as expected | Ars Technica

https://arstechnica.com/gaming/2018/12/tumblrs-porn-ban-is-going-about-as-badly-as-expected/



Tumblrは2018年12月17日から、ユーザーの年齢にかかわらずアダルトコンテンツの投稿を完全に禁止することを発表しました。これはTumblr上に児童ポルノ画像が含まれていたことを理由に、2018年11月末にAppleのApp Store上から専用アプリが削除されたことがきっかけだといわれています。



Tumblrがアダルトコンテンツの禁止を発表 - GIGAZINE





ただし、この時にTumblrが発表した新ガイドラインにおける定義があいまいだとして、ユーザーからは不満の声もあがっていました。



一方、Tumblrは本格的にアダルトコンテンツの一掃を考えているようで、Tumblr上に投稿された画像を自動でチェックし、違反コンテンツと判断すると警告を送るAIを導入しました。しかし、このAIによる判定精度があまりにも低く、全く性的ではない画像にも警告を送りまくってしまい、Tumblrユーザーは大混乱。なぜかアダルトコンテンツと見なされてしまった「なんでもない画像」がTwitterで次々と報告されています。



女の子のポーズこそセクシーなものの、どうみても健全な画像ですが、Tumblrから違反警告を受けてしまったとのこと。





事務員による後輩への気遣いを描いた暖かい画像もなぜか違反警告の対象。





「Tumblrやっちまったな。言葉も出ないよ。ジブリに警告を出すなんて」



Tumblr did it. the unspeakable.

It flagged Ghibli. pic.twitter.com/7ZIeb8tY5R — vika (@viria13) 2018年12月4日



「この子はかぎ針で編んだロウソクのケヴィンです。Tumblrだとケヴィンは違反扱いになります。おわかりだとは思いますが、なぜならケヴィンはどう見てもアダルトコンテンツだからです」



This is Kevin, the crochet candle. :D

Over on #tumblr, Kevin got flagged because, you guess it, very obvious adult content#crochet#candle pic.twitter.com/D68WAzmDcd — JojoMakesArt (@JojoMakes) 2018年12月5日



おじさんが2人並んで涼を取っているだけの画像も「Tumblrには刺激的すぎた」ようです。



2 hotttt 4 tumblr (yes, really) pic.twitter.com/nE3R45ppIO — Janice Collier (@ardaniel) 2018年12月4日



「アトランタの生水は飲むには危険だし、私がデジタルで描いた洞窟の絵はTumblrには刺激的過ぎて取り扱えない」と、単なる洞窟の絵までアダルト判定を受けてしまいました。



All the water in Atlanta is unsafe to drink and my digital paintings of caves are too hot for Tumblr to handle. pic.twitter.com/IGckljHlqB — Anne Sullivan ???? (@annetropy) 2018年12月3日



なんでもない食べ物の画像も、アルゴリズムにはポルノコンテンツに見えてしまった様子。





沖縄名物サーターアンダーギーも違反警告を受けてしまったとのこと。Tumblrのアルゴリズムは、丸く香ばしく揚がったサーターアンダーギーのどの部分を見てアダルトコンテンツの判定を下したのでしょうか。





「何かの画像が警告されているというから、2年ぶりにTumblrにアクセスしたら引っかかってたのはこれだった」とのことですが、この画像がそもそもどういう状況なのかがめちゃくちゃ気になります。



went to Tumblr for the first time in 2 years to check if anything got flagged, and it was this

(cc: @nocontextCV ) pic.twitter.com/2xeCcaLihB — Jon the Red (@jontheredrc) 2018年12月3日



「よくやった、Tumblr！危険なアダルトコンテンツを見事捕捉しているぜ！」という画像はクリームたっぷりのキャンディーのCMでした。



i got flagged!!! ????



good job, tumblr ???????????? gotta catch that dangerous "adult" content pic.twitter.com/uxN75vbuek — Nick Marino (@NickMarino) 2018年12月3日



また、「ポケットモンスター」のリザードンはどんな画像でもかなりの確率でアダルトコンテンツ判定を受けてしまう模様。





「Tumblrはリザードンが嫌いなんだ！彼らはリザードンをめちゃくちゃ憎んでる」



tumblr hates charizard ! they hate him so much pic.twitter.com/RZCoDoM8bQ — spencer『 HOW DISGUSTING 』soares (@PIZZASCRUB) 2018年12月4日



「すいません、リザードンはTumblrからBANされているんですよ」



Sorry everyone Charizard is banned from Tumblr pic.twitter.com/NdXaD3M8xA — Holiday Dogger (@Ropnolc) 2018年12月4日



大量の画像で違反警告が出されていることに腹を立てたあるユーザーは「おい、スタッフ！俺のところに来て、この画像のどこが違反しているのか説明しろ！」という怒りのメッセージをTumblrに投稿したところ、そのメッセージが違反報告を受けてしまったようです。



My post calling out Tumblr’s wrongful flags got flagged

Cowards #RipTumblr #TumblrIsDeadParty pic.twitter.com/sQxW3sQBzq — Aphex Friend ???? (@CutesyGrungeCat) 2018年12月4日



判定アルゴリズムでは、アダルトコンテンツとセクシュアリティに関する議論は区別されません。そのため、セクシャルマイノリティに属するユーザーの中には「LGBTコンテンツが不平等にアルゴリズムの標的になっているのでは」と疑念の声をあげる人もいました。



I made a post about lgbt content on tumblr getting flagged as sensitive and my post got flagged as sensitive pic.twitter.com/5Co45q7NjD — Ieuano (@stopcishets) 2018年12月3日



Tumblr公式スタッフブログによるアダルトコンテンツ禁止を告知するポストも違反しているとして警告を送られている始末。結果として自分で自分を警告するというオチまでついたこの騒動について、Tumblrは記事作成時点ではコメントを発表していません。



Also there's nothing explicit about that blog and tumblr is fucking choking on itself. The announcement about removing porn was also flagged as explicit. pic.twitter.com/MID0lYnte3 — Mistletoe & Hailey ???????? (@SadistHailey) 2018年12月4日



なお、問題ないはずの画像に違反警告が送られてきた場合、異議を申請すれば撤回してもらえるとのことでした。

