世界で月10億人、日本国内でも月3300万人のアクティブアカウントがある写真共有アプリ「インスタグラム」。多くの若者にコミュニケーションツールとして支持される一方、いじめに使われる事例も相次ぐ。そこで、インスタグラムを運営するフェイスブック社は、相手を傷付ける恐れのあるコメント送信をやめるよう促すなどの対策を取り入れた。来日したインスタグラムの担当幹部2人が記者会見し「オンラインのいじめに断固として対抗し、安心して利用できる自己表現の場を保っていく」と話した。【山口朋辰/統合デジタル取材センター】

インスタグラムは7月から、人を傷つける可能性があるコメントをAI（人工知能）が特定し、入力したユーザーに通知して送信を考え直させる機能をテスト導入した。

28日に東京都内で記者会見したインスタグラムの製品部門責任者のビシャル・シャー氏は「脅威」「侮辱」「裏切り」「望まないやり取り」に関連する言葉をAIに学ばせ、事例を蓄積することで、いじめ投稿の検知を高めていると説明。さらに、「レビュアー」と呼ぶ世界の計1万5000人による人間の目も使って、24時間体制でチェックしていることを説明した。

一方、同じく会見した公共政策部門責任者のカリナ・ニュートン氏は、判断を誤るケースが「10回に1回はある」と明らかにした。例えば「ブス」との単語をAIが検知したが、美容院に行ったものの髪形が気に入らなかった女性の投稿だったケースがあったという。「間違いが再び起こらないように（AIもレビュアーも）トレーニングしている」と、ニュートン氏は話した。

10月からは、指定した相手についてコメントの表示を制限したり、DM（ダイレクトメッセージ）の既読が相手に表示されなくなったりするなどの仕組みも導入した。いじめの被害者が加害者に悟られることを恐れてブロックやフォロー解除をしたがらないことに対応したという。

イ…