人々はいま、「トロッコ問題」［日本語版記事］に、以前より不安を感じているようだ。1960年代に提起されたこの考えは、次のような思考実験を行うものである。制御不能になったトロッコが、5人の作業員がいる線路に向かって猛スピードで向かっている。あなたはそのトロッコを別の線路に向かわせることができる分岐器がある場所にいるが、そちらの線路にも作業員がいる。ただし1人だけ。あなたは分岐器を切り替えるだろうか？

この倫理問題は、自律走行の時代が始まろうとする現在、新しい意味をもつようになった。同様の難しい問題を考えてみよう。自律走行車は、5人の歩行者とクルマの乗客、どちらの命を危険にさらすだろうか。言うまでもなく、実際にその決断を下すのはクルマではない。薄暗いオフィスでぬくぬくと過ごすソフトウェアエンジニアたちだ。彼らが神の役割を果たすことになる。少なくとも理論的には。

誰を“殺す”べきか決断する能力を機械に与えるという問題［日本語版記事］は、ディストピアSFのメインテーマだ。だからこそ、米国のドライヴァーの4人に3人は米国自動車協会（AAA）のアンケートに対して自律走行車が怖いと回答している。米国運輸省道路交通安全局（NHTSA）では、自動運転技術を開発する企業に対して「倫理テスト」のようなものの作成を提案しているほどだ。

一方で、この問題には議論の余地がありそうだとする考えもある。スタンフォード大学の研究者であるブライアン・ケーシーは、『Northwestern University Law Review』に発表した論文で、トロッコ問題は的外れだという考えを示している。この問題は、倫理学者やエンジニアではなく、法律によって解決されるという主張だ。

論文によると、自律走行車を製造する各企業は「予想される法的責任という具体的な問題と比べると、善悪という深遠な問題にはそれほど関心をもたない」という。つまり、自律走行車のトロッコ問題は、哲学者や倫理学者ではなく、弁護士や国会議員が決着をつけてくれるというわけだ。

トロッコ問題の解決

「トロッコ問題が表しているのは、すでに解決済みの問題です。この問題は、法的責任と消費者心理を組み合わせることによって民主主義的に解決されます」とケーシーは述べる。「利益を最大化することを求める企業は、自律走行技術への誘因となるこのメカニズムによって、あらゆる状況における最適な挙動が選択されることを期待しています」。つまり、エンジニアは倫理学者からではなく、技術の限界や不法行為を定める法、危険に対する消費者の容認度から手がかりを得ることになる。

ケーシーは、イーロン・マスクが創設したテスラを例に挙げている。同社のクルマは「オートパイロット」をオンにすれば高速道路での運転をクルマにほぼ任せられるという。

テスラのエンジニアたちはオートパイロットをプログラミングするとき、安全を優先してクルマの速度を遅くすることも、利用者にとって便利なように速度を速めることもできた。これらの代わりにプログラミングされたのは、速度制限に従い、テスラが責任を負う危険を最小限にすることだった。

「（エンジニアたちが）世界で最高権威の哲学者団体に電話をかけて、偉大な学術論文を依頼するかと考えたら、しないでしょう」とケーシーは述べる。「エンジニアたちは、速度制限よりも大幅に遅い走行、あるいは大幅に速い走行によって生じる、道徳や倫理に関するあらゆる外的影響について思い悩んだりしません。法律や速度制限に目を向け、法律が奨励する誘因に従うだけです」

ケーシーが言いたいのは、たとえば政策立案者や保険会社がすべての衝突事故の責任を自律走行車に負わせることにした場合、メーカー各社は何かまずいことが起きる危険を最小限にするためにかなりの努力を払おうとするということだ。

もちろん、この問題には社会も口を出す権利がある。ケーシーは論文中で「機械の道徳性を実際に設計するのは、技術系の大企業であるグーグルやテスラ、メルセデス・ベンツなどのオフィスに閉じこもったエンジニアチームではなく、普通の市民である」と書いている。立法者や当局は社会の意思に応えようとするし、彼らがそうしない場合は自動車メーカーがそうする。

テスラは2017年1月、オートパイロットの大胆な更新を実施し、一部の道路では速度制限を時速5マイル（約8km）上回る速度で車を走らせられるようにした。これは、すべてのクルマに追い越されることに所有者から不満が出たためだ。つまり、市場の意見にテスラが応えたことになる。

自律走行車における倫理とは

それでも、トロッコ問題のような思考実験は、自律走行車に関する社会の考えを測るのに役立つ。ヴァージニア州交通調査評議会（VTRC）で自律走行車を研究するノア・グッドールは、「人々が何を尊重するかを理解しようとするときに役立つのは、微妙な違いを取り除くことです」と述べる。

トロッコ問題の思考実験は、人々が自律走行車にどのようなガイドラインを求めているのか概観し、解決が求められている問題を明らかにする。ただし、こうした思考実験に人々が困惑させられる可能性もある。実のところこれらは非常に特異なケースだからだ。「トロッコ問題はかなり非現実的なものであり、人々を動転させます」とグッドールは言う。

自律走行車のトロッコ問題は、まだかなり先まで実現しそうにない高度なレヴェルの技術が前提となっている。現時点の自律走行車は子どもと高齢者、あるいは2人と3人の区別がつかない。つまり、トロッコ問題はかなり理論に偏った問題なのだ。

「自律走行車は、周囲を取り巻く事柄についてきめ細かな判断を行いづらいことがあります。一般的に、自律走行車が処理する情報は必要最低限のものです。そのようなデータからこれらの判断を下すのはかなり難しいでしょう」。そう述べるのは、かつてマサチューセッツ工科大学（MIT）のロボティックス・モビリティ・グループを率いたことがあり、現在はボストンを拠点とする自動運転ソフトウェアの新興企業nuTonomy［日本語版記事］のCEOを務めるカール・アイグネマだ。

VTRCのグッドールは、人々が自律走行車に懸念を感じないようにするには、「これらの車両が実際に何をするのかについて隠し立てをしないこと」が重要だと述べる。「自律走行車は、多くの衝突事故や死亡事故を防いでいます。企業はこうした点を検討していることを強調すべきです」

交通事故による年間の死者は、米国では3万5,000人、世界全体では125万人を超える。トロッコ問題のような倫理上のジレンマについて思い悩んでも命を救うことはできないが、自律走行技術が向上すれば、実際に命を救うことは可能になるかもしれない。

一方で、自律走行車を開発するあらゆる企業は、エンジニアの数を増やすだけでなく、やり手の弁護士たちも雇用したがるだろう。移動の未来には、彼らもかかわってくることがわかっているからだ。