Stephen Cave ist Senior Research Fellow an der University of Cambridge, er leitet dort das Leverhulme Centre for the Future of Intelligence. In einem Essay für das Online-Magazin Aeon erörtert er, warum wir Menschen uns so sehr vor dem Erwachen einer künstlichen Intelligenz (KI) fürchten: weil wir uns schon immer vor Intelligenz gefürchtet haben.

"Die Idee, dass Intelligenz wie die Schuhgröße quantifiziert werden kann, ist etwas mehr als ein Jahrhundert alt. Aber die Vorstellung, dass Intelligenz unsere Position im Leben bestimmen soll, ist viel älter. Zu sagen, dass Menschen intelligent sind oder nicht, war nie nur ein Kommentar zu ihren geistigen Fähigkeiten. Es ist immer auch ein Urteil darüber, was sie tun dürfen. Intelligenz ist politisch. Klar, wir alle wollen Ärzte, Ingenieure und Herrscher, die nicht dumm sind. Aber Intelligenz hat auch eine dunkle Seite. Sie wurde - oder ein vermeintlicher Mangel daran - dazu verwendet, diejenigen, die als weniger intelligent galten, zu kolonisieren, versklaven, sterilisieren und zu ermorden (und tatsächlich auch: zu essen, wenn wir nichtmenschliche Tiere in unsere Berechnungen einbeziehen). Dieses Problem hat mit dem Aufstieg der KI im 21. Jahrhundert eine interessante Wende erfahren. Wenn wir darüber nachdenken, wie die Idee der Intelligenz benutzt wurde, um Privilegien und Herrschaft in mehr als 2000 Jahren Geschichte zu rechtfertigen, ist es kein Wunder, dass die bevorstehende Aussicht auf superintelligente Roboter uns mit Schrecken erfüllt. Da wir glauben, dass die Intelligenteren die weniger Intelligenten beherrschen können, fürchten wir jetzt die Versklavung durch unsere superintelligenten Kreationen. Denn da wir unsere eigenen Macht- und Wohlstandspositionen mit unserem Intellekt rechtfertigen, ist klar, dass wir eine überlegene KI als existenzielle Bedrohung sehen. Doch wenn KIs Schaden anrichten, liegt es eher daran, dass wir ihnen wohlmeinende, aber schlecht durchdachte Ziele geben - nicht daran, dass sie uns erobern wollen. Natürliche Dummheit, mehr als künstliche Intelligenz, bleibt für uns das größte Risiko."