スマートニュースは3月11日、ニュースサイトやブログなどから記事を自動抽出して表示するニュースアプリ「SmartNews」に同日表示された記事の中に、川崎市の中学1年生殺害事件の容疑者少年の実名と顔写真とされる内容が含まれていたと報告した。同社は記事が運用基準に抵触すると判断し、表示を停止したという。

同社によると、掲載されたのは少年の実名と顔写真とされる内容を掲載したオンラインメディアの引用によるブログ記事で、アルゴリズムによって自動的に選ばれたという。同社の運用基準に抵触すると判断したため手動で表示を停止した。運用基準は非公開としている。

SmartNewsはコンピュータがネットから記事を自動的に収集・選定・表示。人的・システム的な監視も社内で行っており、社内の監視体制と読者からの通報などに基づき、運用基準に抵触すると判断した場合は自主的に表示を停止してるといい、これまでに手動で表示を停止したケースがあったという。

こうした事態を未然に防ぐようアルゴリズムの改善を継続的に行っているほか、今後も人とシステムによる監視体制の強化と精度の向上に取り組むとしている。

関連記事 関連リンク スマートニュースの告知