犯罪対策におけるAIの活用が進んでいる。アルゼンチンなどでは街中に設置されたカメラからの映像をリアルタイムに解析し、犯罪につながるリスクの高いバイクでの2人乗りや、不審な行動・車両を検知し、犯罪を未然に防ぐシステムが実働している。また、検問などの定点観測をAIで代替することにより労力とコストを削減することが可能となることからも、積極的な活用が進められている。こうしたなか、全米経済研究所（NBER）は、逮捕歴と裁判記録から被告人の逃亡可能性を予測するアルゴリズムを開発したと発表した。同アルゴリズムはニューヨーク市で発生した事件のデータ数万件から機械学習し、別データ約10万件を使った試験で、裁判官よりも的確に保釈人の再犯率を予測できるとの結果を得た。

被告人を保釈するかどうかの判断は、熟練の専門家でさえ判断に悩むケースがある。現行の刑事司法制度では、保釈か留置かの判断が本来とは逆になってしまうこともあり、制度上の欠陥になっている。同アルゴリズムの活用で保釈中の被告人による犯罪を25%削減できる可能性があり、さらには、留置される未決囚の数を40%以上削減できる可能性があるとのこと。

アルゴリズムの正確性は証明されたが、実装までには判断の公正性の向上のためのさらなる検証を要する。昨年、別の仮釈放を判断するソフトウェアの欠陥で、黒人は白人に比べてハイリスクだと判定される傾向が指摘された。また、人相によって犯罪者を89.5%の精度で特定できるAIや、殺人を犯すかどうかや小児性愛傾向などの潜在的な特性を、80%の精度で特定できるAIも開発されており、物議を醸しだしている。これに対してNBERのアルゴリズムは、拘置所に留置されるアフリカ系アメリカ人やヒスパニック系の割合が減少する効果を確認しており、研究を進めることで不公正な判断を大幅に回避することを目指している。

行動履歴やDNAによって、高い確率で犯罪の可能性や人の特性を判定できたとしても、必ずこれにあてはまらない例外的なケースが発生する。ソフトウェアの精度を高めていく研究の積み重ねはもちろん必須となるが、AIのみによる判定で処遇を決定するシステムでは常にリスクを伴う。例外ケースでの人権の尊重や責任の所在の明確化のためにも、あくまで判断の補助的な役割としてソフトウェアを位置づけることが重要だ。（編集担当：久保田雄城）