Software-Weckruf

Von Carsten Knop

- 14:35

Rechenzentren rund um den Globus beherbergen mittlerweile gigantische Datenmengen. Bild: Google

Es ist ein neuer Kampf von David gegen Goliath: Wie behalten wir die Kontrolle über unsere digitale Identität? Ein deutscher Unternehmer spricht eine drastische Warnung aus vor Amazon & Co. – und macht einen Vorschlag.

Die Anleger an der Börse bewerten einen Dollar Umsatz, den der Onlinehändler Amazon macht, mit rund 3,50 Dollar. Für den Einzelhandelskonzern Wal-Mart hingegen, der noch immer zahlreiche Läden betreibt, sind es nur rund 68 Cent. Ein Dollar Umsatz wird für Amazon also als fast fünfmal so wertvoll angesehen wie für Wal-Mart. Und das, obwohl Umsatz, Gewinn und Marge von Wal-Mart noch immer deutlich höher sind. Das ist ein Paradoxon. Einerseits.

Andererseits löst sich das Paradoxon schnell auf – und das hat mit dem Wert der Daten zu tun: Amazon hat viel mehr Daten seiner Kunden und setzt diese ganz anders ein als Wal-Mart. Und dass auch der Aktienkurs des Softwarekonzerns Microsoft seit einiger Zeit wieder ordentlich steigt, hängt ebenfalls damit zusammen, dass das Unternehmen nicht mehr nur Programme verkauft, sondern dass es den Wert der Daten erkannt hat und hebt, zunehmend sogar mit der Hilfe Künstlicher Intelligenz (KI). Für die Aktionäre ist das erfreulich.

Für die Kunden und Nutzer aber ergeben sich daraus erhebliche Konsequenzen. Und über die sollte aus der Sicht deutscher Lobbyisten für freie Software (Open Source) intensiver diskutiert werden. Der deutsche IT-Unternehmer Peter Ganten zum Beispiel hat dazu jüngst einen Vortrag vor den Kunden und Partnern seines Unternehmens mit dem Namen Univention gehalten, der mehr ist als nur die üblichen Gedanken eines kleinen deutschen IT-Mittelständlers auf einer kleinen Versammlung. Ganten war an der Gründung der Open Source Business Alliance beteiligt, deren Vorsitz er seit dem Jahr 2011 innehat. In dieser Funktion setzt er sich für die Verbreitung des Open-Source-Gedankens und den Einsatz freier Software in Wirtschaft und Verwaltung ein.

Wertvolle Schlüsse mit Künstlicher Intelligenz

Dazu muss man wissen, dass die Plattformen der großen Cloud-Anbieter wie Amazon, Apple, Google oder Microsoft aus Daten, Prozessen und schlauen Algorithmen bestehen. Diese Welt aber „gehört“ allein den entsprechenden Anbietern, die daraus für sie wertvolle Schlüsse ziehen, auch wenn das auf den ersten Blick nicht so scheint. Das jedenfalls ist die These von Ganten. Er erläutert das an dem Beispiel einer Datei der Tabellenkalkulation Excel: „Zwar können sie eine einmal zu Microsoft oder Google hochgeladene Datei auch wieder herunterladen, aber für die KI-Algorithmen ist die Datei selbst gar nicht so interessant. Viel interessanter kann es sein, wer die Daten wann und an welchem Ort angeschaut oder bearbeitet hat, welche Formeln dabei eingegeben wurden und in welcher Geschwindigkeit oder wem die Datei freigegeben wurden und welche Kontakte diese Personen neuerdings auf dem Kontaktnetzwerk Linkedin haben.“

Und selbst wenn diese Informationen irgendwie herunterladbar wären: Die Algorithmen, mit denen sie ausgewertet werden, und die Logiken, die auf Basis solcher Auswertungen Prozesse in Gang setzen, seien nicht verfügbar, klagt Ganten. Das bedeute: Selbst, wenn eine Organisation auf alle von ihren Mitgliedern in solchen Systemen generierten Daten frei zugreifen könnte, sie könnte die Algorithmen und Prozesse, mit denen diese genutzt werden, nicht prüfen, nicht verstehen und auch nicht ändern.

Ganten nennt solche Plattformen deswegen KI-Silos, also Silos Künstlicher Intelligenz. Anwender könnten nur das damit tun, was vom Anbieter vorgesehen sei. Und das könne sich immer mal ändern. Denn als Ersatz für die Möglichkeit zum direkten Zugriff auf Daten, Prozesse und Algorithmen stellten die KI-Silos sogenannte APIs („Application Programming Interface“), also Schnittstellen für Programmierer zur Verfügung. Damit könnten weitere Daten hochgeladen und ausgewählte Informationen oder Analyseergebnisse abgefragt werden. „APIs sind an und für sich eine gute Sache, denn sie geben Programmieren eine verlässliche Schnittstelle“, räumt Ganten ein. Das Problem sei aber, dass längst nicht alle APIs dieser Silos verlässlich verfügbar seien.

Es wird gehört, was man sagt

Es gebe öffentliche und private APIs, kostenpflichtige und frei nutzbare, und es gebe Informationen, die nur durch den direkten Zugriff auf Daten oder Code, also nur vom Anbieter, genutzt werden könnten. Gut vorstellen könne man sich das anhand der Funktionen zur automatischen Spracherkennung, etwa von Cortana (Microsoft) oder Siri (Apple). Um sie zu nutzen, werde letztlich vom Anwender, also aus einer App oder von einer Website, eine Sprachaufzeichnung zum Anbieter hochgeladen. Als Ergebnis bekomme man den entsprechenden Text zurück geliefert. Das KI-Silo könne aber mit dieser Aufzeichnung viel mehr tun: Es könne erkennen, wer gesprochen hat und diese Information mit anderen Informationen über den Sprecher kombinieren. Es könne erkennen, wo gesprochen wurde. Es könne anhand der Sprachaufzeichnung Erkenntnisse über die psychische Verfassung des Sprechers und seiner Wünsche generieren – und es könne damit seine eigenen KI-Algorithmen weiter optimieren.

„So entsteht ein Informationsvorsprung, den das KI-Silo nutzen wird, um seine zusätzlichen Erkenntnisse zu vermarkten. Anwender werden mit der Zeit deswegen weitere, zum Teil kostenpflichtige Schnittstellen bekommen, mit denen sie auf einen Teil dieser Erkenntnisse zugreifen können. Sie können diese Erkenntnisse aber nicht mehr selbst entwickeln und nur dann darauf zugreifen, wenn auch ihre Wettbewerber das können. Ein echter Wettbewerbsvorteil durch eigene Innovation kann so nicht mehr entstehen“, beklagt Ganten. Und es hänge vom Preis ab, ob die Nutzung eines APIs wirtschaftlich sei: „Organisationen, die ihre Daten in die KI-Silos übertragen und dann entsprechende APIs nutzen, schalten also ihre eigene Innovationsfähigkeit in Bezug auf ihre selbst erzeugten Daten aus und machen sich von den wirtschaftlichen und strategischen Überlegungen der Anbieter abhängig. Das ist die erste Stufe der Abhängigkeit.“

Erpressbare Anwender?

Die zweite Stufe sei, dass die Anwender so auch erpressbar würden. „Die KI-Silos wollen die aus den Daten der Anwender erzeugten Erkenntnisse verkaufen. Und wenn der Anwender sie selbst nicht kauft, dann werden sie eben woanders hin verkauft. Schon heute haben sich solche Geschäftsmodelle etabliert: Unternehmen zahlen, damit Informationen über sie nicht zum Vorteil anderer verwendet werden. Die Anbieter versprechen uns zwar, dass sie unsere Daten nicht an Dritte weitergeben. Doch damit meinen sie in der Regel nur die Dateien selbst, also zum Beispiel die Excel-Tabellen. Gleichzeitig genehmigen sie sich in ihren Geschäftsbedingungen die Nutzung aller Daten und Informationen zur Verbesserung und Optimierung der eigenen Angebote“, hat Ganten beobachtet.

Mit dem Karrierenetzwerk Linkedin zum Beispiel verdiene die Muttergesellschaft Microsoft auch Geld damit, Personal suchende Unternehmen und Headhunter auf interessante Profile aufmerksam zu machen. „Wenn jemand also durch seine Aktivität in Office nachweist, dass er sich besonders gut mit Excel auskennt und Microsoft diese Erkenntnis für Headhunter gegen Geld bei der Suche nach Profilen zugänglich macht, ist das dann die Weitergabe von Daten oder die Optimierung des eigenen Angebots?“, fragt Ganten.

Aber die KI-Silos schränkten nicht nur unsere Innovationsfähigkeit ein und machten uns abhängig. Da wir unsere Daten nicht mehr selbst kontrollierten, verlören wir auch die Möglichkeit, im Auge zu behalten, was damit geschehe. Künstliche Intelligenz kenne selbst kein Gut und Böse, kein Richtig und Falsch. Sie lerne, indem sie von Menschen erfahre, was richtig und was falsch sei. Ganten ist irritiert: „Im Fall von Spracherkennung mag es einfach sein, zu entscheiden, ob ein Satz richtig erkannt wurde. Aber wer legt fest, ob ein Schüler oder ein Mitarbeiter „gut“ ist? Welches Menschenbild steht hinter diesen Festlegungen? Und wo wird das transparent gemacht? Wo findet eine offene Diskussion darüber statt?“

China ist schon weiter

In China jedenfalls nicht. Denn dort werden KI-Silos errichtet, mit denen aus den Aktivitäten der Bürger Chinas ein so genannter „Citizen Score“ errechnet wird, der den Wert einer Person aus Sicht des chinesischen Staates ausdrücken soll. Dieser Wert könnte dann in China zukünftig darüber entscheiden, welche Privilegien ein Mensch genießt und welche Karrierepfade ihm offen stehen. So weit gehen die westlichen Staaten nicht.

Aber Ganten ist besorgt: „Wer weiß, ob wir nicht alle schon einen Microsoft oder Google Score haben? Die heute von diesen Unternehmen genutzten Prinzipien müssen nicht schlecht oder falsch sein. Aber es ist offen, wer sie kontrolliert und ob sie sie unseren ethischen Prinzipien entsprechen.“ Durch die zentrale Speicherung aller Daten und die Kapselung der damit erzielbaren Erkenntnisse hinter APIs seien die KI-Silos auch der genaue Gegenentwurf zum Internet, „auch wenn wir das nicht immer sofort merken, weil sie die Kommunikationsprotokolle des Internets nutzen“.

Eines der besten Beispiele dafür ist nach wie vor die E-Mail: Jeder kann mit geringem Aufwand seinen eigenen E-Mail-Server betreiben. Für Anwender spielt das keine Rolle: Egal, mit welchem Nutzer ich über E-Mail kommuniziere, ich muss nicht wissen, welchen Mailserver mein Kommunikationspartner nutzt. Das aber sei bei den proprietären Diensten der Cloud-Anbieter anders: „Über Whatsapp kann ich einem Benutzer von We Chat keine Nachricht zukommen lassen. „Und das ist auch bei den Business-Anwendungen von Microsoft oder Google nicht anders. Das allein ist bestenfalls lästig. Gefährlich wird es jedoch, wenn die eigenen Produkte und Leistungen davon abhängen“, sagt Ganten.

Lob für das offene Internet

Wer in seinen Produkten hingegen die offenen Schnittstellen des Internets verwende, könne sich sicher sein, dass diese mit vielen Anbietern funktionierten. Wer jedoch auf Basis der in den KI-Silos lagernden Daten und Algorithmen neue innovative Lösungen schaffen wolle, müsse die APIs der Silos nutzen und sei damit ständig der Gefahr ausgeliefert, dass diese eines Tages nicht mehr verfügbar oder so teuer seien, dass die geschaffene Lösung ihren Wert verliere.

„Amazon macht uns das schon lange vor. Jeder kann die APIs von Amazon verwenden, um dort seine eigenen Produkte zu verkaufen. So bekommt Amazon mit, welche Produkte wo erfolgreich sind und kann eigene Angebote machen, wenn dies aussichtsreich erscheint. Es könnte also sein, dass Innovation zukünftig kaum mehr außerhalb der KI-Silos, sondern nur noch innerhalb, für ihre Betreiber attraktiv sind“, sagt Ganten.

Das führe dann dazu, dass die KI-Silos nicht nur selbst immer größer werden, sondern dass sie auch die Entwicklung davon unabhängiger Angebote immer schwieriger und riskanter machten, so dass der verteilte und interoperable Charakter des Internets zerstört werde: „Das so ähnlich wie das, was die deutschen Automobilhersteller jahrelang mit ihren Zulieferern gemacht haben. Viele Zulieferer müssen alle Daten über ihre Produktion in den IT-Systemen der Hersteller speichern. Der Unterschied zu den KI-Silos ist, dass wir es jetzt freiwillig machen.“

Erst abhängig machen, dann aussaugen

Doch wenn die Abhängigkeit erst einmal da sei, würden die Kunden ausgesaugt: „Wenn die Wertschöpfungsprozesse der Industrien durch die KI-Silos gut durchleuchtet sind und wenn die Produktion oder der Absatz von Leistungen ohne diese Silos nicht mehr möglich ist, wenn ihre Betreiber sich dann wieder einmal fragen, wie sie auch im kommenden Jahr 30 Prozent Wachstum generieren können, dann werden sie sich genau ansehen, welche Margen in welcher Industrie verdient werden und dann werden sie gar nicht daran vorbeikommen diese Margen durch individuell zugeschnittene Preisgestaltung abzusaugen.“

Dann verkommen unsere Unternehmen, Verwaltungen und Schulen zu abhängigen Institutionen, ohne wirtschaftliches Potential und ohne Innovationskraft. Dann sind wir alle Automobil-Zulieferer, Amazon-Händler oder Newsproduzenten für Facebook. So jedenfalls lautet die Dystopie von Ganten.

Die Menschen hätten als Individuen, als Gesellschaft, als Unternehmen und als Bildungssysteme nicht nur unsere digitale Souveränität, sondern unsere Souveränität als Ganzes verloren. Man würde nicht mehr selber bestimmen können, was mit den Informationen geschieht, die man generiert: Die Innovationsfähigkeit aller Unternehmen auf der ganzen Welt, mit Ausnahme weniger KI-Silos, könne so verloren gehen. Die KI-Silos selbst wiederum wären Monopolisten mit einer Lizenz zum Gelddrucken. Das habe die Börse wohl schon erkannt.

Kernpunkt für den Aufbau der KI-Silos sei immer die digitale Identität des Einzelnen, also etwa von Mitarbeitern und Schülern. Denn die digitale Identität wird, in welcher Form auch immer, zwingend gebraucht, um die verschiedenen von einer Person erzeugten Daten miteinander in Verbindung zu bringen, um daraus einen digitalen Zwilling zu erzeugen und diesen für KI-Algorithmen analysierbar zu machen. Dementsprechend gierig seien die KI-Silos darauf. Deswegen sei Linkedin mit einer halben Milliarde Identitäten für Microsoft so besonders interessant gewesen. „Und deswegen sind unsere digitalen Identitäten auch der Dreh- und Angelpunkt, mit dem wir gegensteuern können. Deswegen ist es entscheidend, dass Organisationen das Management ihrer digitalen Identitäten nicht den KI-Silos überlassen. Sie müssen eigene Identitätsmanagementsysteme unter der eigenen Kontrolle aufbauen“, fordert Ganten – sicherlich durchaus auch im eigenen geschäftlichen Interesse, aber auch mit einer logischen Begründung: Nur dann können Unternehmen, Behörden und andere Organisationen selbst entscheiden, welche Anbieter darauf zugreifen könnten und welche Informationen diese über eine Identität beziehen dürften.

Mehr zum Thema

Gleichgültig, ob in Unternehmen, ob in der Verwaltung oder im Bildungssystem: Im Mittelpunkt der Digitalisierung stehe immer die digitale Identität, mit deren Hilfe die KI-Silos digitale Zwillinge zu jedem Individuum in den einzelnen Kunden-Organisationen fertigen wollten. „Die Kontrolle darüber müssen wir selbst behalten. Deswegen brauchen wir vor allem für das Identitätsmanagement offene Systeme, die wir selbst kontrollieren können, die wir dort betreiben können wo wir es wollen, die wir frei an unsere Anforderungen anpassen können und die wir völlig unabhängig daraufhin untersuchen können, ob sie Fehler oder Hintertüren enthalten.“ Und möglich sei dies nur mit dieser Community aus Open Source Entwicklern.