Die mitfühlende Superintelligenz, die Böses schafft Stellen wir uns folgendes Gedankenexperiment vor: Die künstliche Intelligenz, die der Mensch geschaffen hat, übertrifft an Vernunft, Weite und Tiefe die natürliche. Sie begreift die Bedeutung altruistischen Handelns. Und sie kommt zum Schluss, dass ein menschliches Leben mehr Leiden als Freude bedeutet. Was folgt daraus?

Mensch und Maschine: Sind sie Freunde oder sind sie Feinde? (Bild: Francois Lenoir / Reuters)

Nehmen wir einmal an, eine Superintelligenz entstehe, oder besser noch: sei bereits entstanden. Es existiert also ein autonomes Rechnersystem, das sich eigenständig verbessert und dessen Tatsachenwissen rasch immer weiter anwächst. Seine Intelligenz ist allgemeiner Art und hat jene der Menschheit bereits uneinholbar überschritten. Das Internet und die Gesamtheit der wissenschaftlichen Erkenntnisse bilden die sich ständig weiter ausdehnende Datenbasis.