米国科学振興協会（AAAS）の年次総会で2月14日、コンピューター科学や倫理学の研究者たちが、人工知能（AI）やロボットがもたらしうる負の側面について警鐘を鳴らした。

ライス大学教授のモシェ・ヴァルディ（計算工学）が将来懸念される可能性として挙げたのは、自動化とAIへの過度の依存により、古代ローマ人たちが奴隷に依存したときと同様の影響がわれわれの社会に及ぶ恐れがあるということだった。

「われわれの経済システムは、人間の労働参加率が25パーセントを下回ったときに対処できるでしょうか。50パーセントを下回ったらどうでしょうか」とヴァルディ教授は問いかけた。そして、古代ローマではその解決策が、「パンとサーカス」か、軍人として生きるかのどちらかだったと指摘した。

イェール大学の倫理学者であるウェンデル・ウォーラックの講演は、ロボットと倫理についての考察だった。このなかでウォーラック氏は、ロボット工学分野は、ゲノミクス分野と同様に、その研究資金の一部を技術の「倫理的、法的、および社会的な関わり（ELSI）」の研究に費やすべきだと求めた。（ヒトゲノム計画では、米国立ヒトゲノム研究所（NHGRI）の予算の5パーセントをELSI研究に充てるとする連邦指令が出されている）。

しばらく前から、自動走行車と、いわゆる「トロッコ問題」（日本語版記事）に関して多くの議論が交わされている。乗客を載せた自律走行車が衝突を避けられないとき、幼児の群れに突っ込んで乗客の命を救うべきか、木に突っ込んで幼児たちの命を救う代わりに乗客を殺すべきかという状況で、「倫理的判断」が難しい。これは一種の「コバヤシマル・シナリオ」だ（コバヤシマルは、『スタートレック』シリーズに登場する架空の宇宙艦）。

いっぽうでウォーラック氏は、「機械は人間の死を招くような決断をしてはならない」と述べ、特に戦場で自ら標的を選択するようにプログラムされたAIやロボットについて言及した。

殺人をプログラムされた機械は「mala in se」（それ自体が悪）であるとウォーラック氏は主張する。機械は予測不可能であり、完全に制御することはできず、責任を負わせることは（不可能ではないとしても）難しい。機械の自律化は、操作する人間（個人または企業）が行為について責任と説明義務を負うという基本的な倫理原則を揺るがすことにつながる。自律型兵器が展開する戦場は、戦争という行為から人間性が根こそぎ奪われるという非常に現実的なリスクをもたらしうるのだ。

※米海軍は2014年から、「善悪の判断」を行い、それに伴った行動がとれる自律型ロボットの研究開発に資金援助（日本語版記事）を行っている。また、判断が難しい「倫理トラップ」をロボットに対してしかける実験（日本語版記事）も行われている。