Von Michael Moorstedt

1769 erschien es zum ersten Mal so, als wäre der Mensch seinen Maschinen intellektuell unterlegen. Da erfand Wolfgang von Kempelen, Ingenieur und Universalgenie, den "Schachtürken", einen menschenähnlichen Automaten mit Turban und bunten Gewändern, der fast jeden Spieler schlagen konnte.

Wissenschaftler aller Couleur scheiterten daran, den Mechanismus des Wunderdings zu enträtseln. Der Trick: In der Maschine steckte ein Mensch, der die Züge ausführte. Angeblich flog der Schwindel erst auf, als der Schachspieler bei einem Feueralarm aus dem Apparat floh.

Der "Schachtürke" ging bei einem Brand verloren; das Prinzip "Mensch tut so, als sei er eine Maschine" aber hat sich gehalten. Die Zeitung The Guardian berichtet, dass sich in der Tech-Branche ein vermehrter Einsatz sogenannter Pseudo-KI beobachten lässt. Hinter manchen vermeintlich revolutionären künstlichen Intelligenzen steckt kein Algorithmus, sondern ein Heer von miserabel bezahlten Klickarbeitern.

In einem aktuellen Fall geht es um das Unternehmen Edison Software, das seinen Nutzern vom Computer formulierte automatische Antworten auf E-Mails anbietet. Wie sich herausstellte, müssen dafür Mitarbeiter aus Fleisch und Blut mehrere Tausend Nachrichten der Kunden durchlesen, um ihr Programm entsprechend zu trainieren.

Die Firma aus San Francisco ist beileibe nicht allein mit ihrer gefälschten KI. Selbst Facebook ist betroffen. Vor drei Jahren präsentierte das soziale Netzwerk den Prototypen eines smarten Software-Assistenten, genannt M. Das Programm konnte Blumen bestellen oder vor schlechtem Wetter warnen und verblüffte Tester mit seinem Verständnis und seiner Eloquenz.

Menschen, die so tun, als wären sie Automaten

Ein paar Experten wurden misstrauisch, und so musste Facebook zugeben, dass man nicht nur auf die KI im Hintergrund vertraue, sondern das System mit echten Mitarbeitern verknüpfte, die die Software trainierten und Fragen der Nutzer beantworteten. Das Programm sollte sich mögliche Antworten und Verhaltensweisen von den Menschen abschauen. Andere Start-ups ließen Abrechnungen ihrer Nutzer per Hand eintippen, anstatt wie beworben von einer KI verarbeiten.

Zum einen entwickeln Firmen also Software, die sich möglichst menschenähnlich verhält, auf der anderen Seite gibt es Menschen, die so tun, als wären sie Automaten. Das bietet reichlich Stoff für witzige Twitter-Posts, birgt aber auch ein paar gar nicht so lustige Aspekte. Zum Beispiel, dass sich Menschen anders verhalten, wenn sie glauben, es mit Maschinen zu tun zu haben, anstatt mit ihren Artgenossen. Sie tendieren dazu, mehr von sich preiszugeben als sonst. So wird auch der Datenschutz zum Problem, wenn ungeschulte, unmotivierte Mitarbeiter Zugriff auf die privaten E-Mails der Nutzer erhalten.

Bereits ein Jahr bevor Facebooks KI-Schummelei herauskam, war auch das KI-Start-up X.ai damit aufgeflogen, dass hinter ihrer vermeintlichen Sekretärinnen-Software namens Amy Studenten-Jobber steckten, die in Zwölf-Stunden-Schichten die Termine ihrer Klienten organisierten. Deren Aussagen zufolge war der Job dermaßen zermürbend, dass die Angestellten tatsächlich hofften, durch einen Bot ersetzt zu werden.