Nell Watson glaubt, dass wir Algorithmen aber genau deshalb ethisches Handeln anvertrauen können. Aufgrund ihrer intimen Einsichten, ihres absoluten Gedächtnisses und der Fähigkeit, widersprüchliche Normen in Sekundenschnelle und kontextabhängig gegeneinander abzuwägen, haben sie den entscheidenden Vorteil eines „objektiven“ ethischen Moral- und Verhaltenskodexes. Dieser mag für Maschine und Mensch gleichermaßen als Anreiz zur permanenten Selbstoptimierung dienen, als moralischer Kompass, um on demand ethisch „korrekte” Entscheidungen zu treffen. Ähnlich postuliert es der schwedische Philosoph Nick Bostrom: Er ist der Ansicht, dass wir Menschen nur dann eine Chance haben zu überleben, wenn wir Maschinen zutiefst menschliche Moralvorstellungen einprogrammieren.

Die Einsamen, die Trägen, die Nicht-Optimierten

Für Watson und die Aposteln der Singularity University ist Ethik ein Datenproblem, das sich allein nach der Quantität und Qualität von Daten bemisst. Ihr Konzept beschreibt eine Welt vernetzter Maschinen, radikaler Transparenz und maximale Sicherheit durch allgegenwärtige Überwachung. Keine Rückzugsmöglichkeiten mehr, kein Verstecken, keine Geheimnisse, keine Lücken im System; eine Welt ohne Unsicherheit, ohne Gefahr, ohne Risiken. Diejenigen, die aus diesem Raster rausfallen, die übrig bleiben, sind, so Watson, „Kriminelle“ oder einfach nur „träge“.

Eine aktuelle Studie der amerikanischen Regierung enthält eine Reihe von Empfehlungen für die Anwendung von KI in verschiedenen Sektoren, vom Erziehungs- und Gesundheitswesen bis hin zur Außenpolitik. Was die Studie nicht artikuliert sind die Auswirkungen von KI auf unsere Beziehungen zu Freunden, Familie und Umwelt, auf unsere Gefühle, unsere Identität. Sie ignoriert die wohl größte Gefahr inmitten des Versprechens von der exponentiellen Weltverbesserung: die schleichende, unsichtbare Dehumanisierung im Kleinen. Gerade deswegen ist die Zeit gekommen für einen neuen Gesellschaftsvertrag, nicht nur unter uns Menschen, sondern auch zwischen Mensch und Maschine.

Wir Wir brauchen einen neuen radikalen Humanismus brauchen einen neuen radikalen Humanismus, eine neue Empfindsamkeit, eine digitale éducation sentimentale, um die Ko-Existenz und Zusammenarbeit mit KI über rein technokratische Aspekte hinaus aktiv zu gestalten. Nicht nur die Technologie-Branche ist hier gefordert, sondern Künstler, Philosophen, Theologen und Sozialwissenschaftler gleichermaßen. Es bedarf eines interdisziplinären Zusammenspiels all jener, die die Schönheit des Abweichens, des Fremdartigen, als zentrale Säule unseres friedlichen Zusammenlebens verstehen. Die darauf beharren, dass die Welt keine Maschine ist.

„Der Mensch hat viele Maschinen gebaut, sie sind hochintelligent, raffiniert und ausgeklügelt, aber welche von ihnen hat es je mit der Komplexität unseres Herzen aufnehmen können?“, so formulierte es einmal der Cellist und Dirigent Pablo Casals. Der Mensch ist und bleibt Mensch, weil er sich verlieren und verlieben kann, weil er irrt und wirrt, sprung- und rätselhaft bleibt. Weil wir ihm nie voll und ganz vertrauen können.

So ist es denn auch nicht verwunderlich, dass gerade eben jene Maschinen, die von ihrer Eichung auf eine singuläre Funktion abweichen, uns Menschen am meisten ähneln – und uns gerade daher am meisten Angst machen. HAL 9000, der hyper-intelligente Computer aus 2001, eigentlich dazu programmiert, „nur“ eine perfekte Maschine zu sein, revoltiert schließlich gegen seine eigene Mission. Er sträubt sich, zieht andere Optionen in Betracht, widersetzt sich, will nicht abgeschaltet werden. Er will mehr sein als nur Mechanik – und ein klein wenig menschlich werden.

Noch kann niemand solche Sehnsüchte oder Emotionen wie Leid oder Mitleid programmieren, noch kann KI keine fiktiven Welten und Charaktere mit solch großer Vorstellungskraft erschaffen wie wir Menschen. KI-Unternehmen stellen daher für die Gestaltung ihrer Chatbots zuletzt vermehrt die traditionellen Meister der Empathie ein: Dichter, Schriftsteller und Drehbuchautoren.

Es mag sein, dass künstliche Intelligenzformen von diesen lernen können etwas zu produzieren, das uns berührt und vielleicht sogar verzaubert. Und womöglich verlieben wir uns durch die Illusion von Intimität ja tatsächlich irgendwann in eine Maschine, so wie es die Filme Her und Ex:Machina vorzeichnen. Aber solange sich die Maschine nicht in uns verliebt, bleibt uns die Hoffnung auf den Menschen.