1942, als die fortschrittlichsten weltweit verfügbaren Computer noch mit Röhren betriebene Spezialmaschinen zur Lösung linearer Gleichungssysteme waren, dachte ein junger Schriftsteller über das Zusammenleben von Menschen und autonomen Robotern nach. Besonders faszinierte den jungen Isaac Asimov, der heute, am 2. Januar 2018, 98 Jahre alt geworden wäre, wie man verhindern könnte, dass an sich gutwillige, intelligente Maschinen Schaden anrichten.

Zahlen, bitte! In dieser Rubrik stellen wir immer dienstags verblüffende, beeindruckende, informative und witzige Zahlen aus den Bereichen IT, Wissenschaft, Kunst, Wirtschaft, Politik und natürlich der Mathematik vor. Alle Artikel zu "Zahlen, bitte!"

Denn die autonomen Roboter, die Asimov sich vorstellte, sollten durchaus eine gewisse Eigenständigkeit besitzen - schließlich sollten sie ja selbstständig Lösungen für unerwartet auftretende Probleme finden. Die "positronischen Gehirne" solcher autonomer Maschinen stellte Asimov sich daher als eine Art Black Box vor, deren eventuell auftretende Fehlfunktion nur durch "Roboter-Psychologen" wieder beseitigt werden können. Einfach beliebig umprogrammieren konnte man diese Roboter jedenfalls nicht.

Robotergesetze

Die Lösung, auf die Asimov schließlich kam, waren drei Grundregeln, die jeder Roboter tief in sein Bewusstsein eingebrannt hatte:

Erstens, dass kein Roboter einem Menschen Schaden zufügen darf, noch dass er zulassen darf, dass ein Mensch Schaden erleidet.

Zweitens, dass ein Roboter sich immer an menschliche Anweisungen halten muss.

Drittens, dass ein Roboter nichts unternehmen darf, was seine eigene Existenz gefährdet.

Später ergänzte Asimov ein "nulltes Gesetz", nach dem ein Roboter nicht nur Schaden von individuellen Menschen, sondern auch von "der Menschheit" abzuwenden habe.

Literarische Fundgrube

Isaac Asimov zählt zusammen mit Arthur C. Clarke und Robert A. Heinlein zu den "Großen Drei" der Science-Fiction-Literatur.

Die laut FAQ der Usenet-Newsgruppe alt.books.isaac-asimov erstmals in der Kurzgeschichte "Runaround" erwähnten Gesetze erwiesen sich für Asimov sehr schnell als äußerst wertvoll. Denn die Regeln klingen zwar zunächst logisch, sind in sich aber keineswegs widerspruchsfrei - und eröffnen damit die Möglichkeit, diese Widersprüche in vielen Folgegeschichten explizit durchzuspielen.

Die Zeitschrift "Astounding Science Fiction", in der die Story im Mai 1942 erstmals erschien, erwies sich dafür als ideale Bühne. Denn ihr Herausgeber, John W. Campbell war, anders als seine Vorgänger, sehr an Logik und wissenschaftlichen Fakten interessiert. In zahlreichen Editorials schoss er scharf gegen die weit verbreiteten "Space Operas", in denen glubschäugige außerirdische Monster – Bug Eyed Monsters, kurz BEM – die Erde erobern, um die Menschheit als Fleischlieferant zu verwenden. "Das mag ein hübscher Hintergrund für Horror-Fantasy sein", spottete er. "Aber besonders wirtschaftlich wäre es nicht. Es dauert schätzungsweise zehn Jahre, um einhundert Pfund Menschenfleisch heranzuziehen, und dazu braucht man sehr teueres Futter."

Praktische Maschinenethik

Spätestens seit den jüngsten Erfolgen der KI-Forschung ist die Diskussion um Roboter-Ethik jedoch auch in der realen Welt angekommen, beispielsweise in der Diskussion um selbstfahrende Autos und ihre Opfer oder die Forderung von EU-Parlamentariern nach einem "Kill-Schalter" für Roboter. Während Asimov die Widersprüche, die sich aus den Robotergesetzen ergeben, nur in fiktionalen Geschichten durchspielte, arbeiten Robotiker an Experimenten zu dem Thema. So hat beispielsweise Alan Winfield von der University of Bristol 2015 erste Experimente mit Robotern durchgeführt, die die Asimov-Regeln beachten müssen. Fun Fact: 2015 ist das Jahr, in dem Asimovs Kurzgeschichte "Runaway" spielt.

Winfield verwendete einen A-Roboter – benannt nach Asimov – und ein H-Roboter, der simulierte "Humanoide". Der A-Roboter bekam die Anweisung, zu einer bestimmten Position zu fahren. Der H-Roboter sollte auf ein Loch zurollen. Der A-Roboter, der die Position des anderen Roboters in seine Planung mit einbezog, konnte nun entweder die ursprüngliche Anweisung erfüllen, oder den H-Roboter retten, damit gegen einen Befehl handeln und sich eventuell selbst in Gefahr bringen. Das Experiment – zunächst mit simulierten, später mit echten Robotern – hat in manchen Fällen geklappt, in anderen Fällen konnte sich der A-Roboter nicht entscheiden und blieb in einer Art Endlosschleife gefangen. Um solche Deadlocks zu vermeiden, hat Winfield die Architektur seiner Ethik-Software seither noch einmal deutlich verfeinert.

Hellsichtiger Visionär

Asimov wird zwar immer wieder vorgeworfen, kein besonders großartiger Literat gewesen zu sein, weil sein Stil schnörkellos und minimalistisch war. Aber "Robbie" beispielsweise, die erste Kurzgeschichte der Roboter-Reihe, schildert geradezu anrührend die Freundschaft zwischen dem Mädchen Annie und ihrem "Kindermädchen", dem stummen Androiden Robbie. Dabei nimmt Asimov die aktuelle Diskussion um Kinder und Jugendliche, die zuviel Zeit mit ihren "elektronischen Freunden" verbringen – Spielkonsolen, Smartphones und sozialen Netzen –, den gesellschaftlichen Druck auf die Eltern, die Angst der Menschen um ihre Arbeitsplätze und den menschlichen Standesdünkel erstaunlich hellsichtig vorweg. (wst)