Zuerst erschienen auf WIRED.de

Neulich konnte ich auf Einladung von Google an einer Diskussionsrunde mit Vinton Cerf teilnehmen, der als Mitentwickler des Verbindungsprotokolls TCP/IP zurecht als „Vater des Internets“ gilt. Seit 2005 ist er Vice President und „Chief Internet Evangelist“ von Google. Der Informatiker sprach über die größten aktuellen Herausforderungen der digitalen Welt: Hate Speech, Fake News, Privatsphäre und Sicherheit im Internet der Dinge.

Dabei spielte er – ungewöhnlich für jemanden, der für Google arbeitet – ein wenig die Möglichkeiten von Algorithmen herunter: Sein Arbeitgeber sei nicht allmächtig, erklärte Cerf. Eine manuelle Kontrolle von Inhalten sei ob ihrer schieren Menge unmöglich, und weil gerade beim Thema Hate Speech der Kontext enorm wichtig sei, könne man Algorithmen an dieser Stelle nicht sinnvoll einsetzen. Zudem sei jede Einmischung von Google in die Inhalte Zensur, und die wolle schließlich niemand.

Johnny Haeusler ist Blogger, Mediendesigner und Mitgründer der re:publica. Für WIRED geht er der Frage nach, ob es an der Zeit ist, die Rechner abzuschalten, oder ob wir stattdessen noch mehr Software in unserem Leben brauchen. © Jim Rakete

Im Kampf gegen Hate Speech und Fake News, sagt Cerf, seien deswegen bessere Computerkenntnisse, kritisches Denken, soziale Normen und gesunder Menschenverstand gefragt. Dem kann ich erst mal nur zustimmen. Frage mich aber auch: Wer definiert die Normen, nach denen wir leben? Was genau bedeutet „gesunder Menschenverstand“? Und über wen oder was soll kritisch gedacht werden?

Cerf und andere übersehen, dass all diese Begriffe bereits heute vom Internet, von Google, Facebook, Twitter und irgendwann vom nächsten Online-Giganten geprägt und definiert werden. Die Wahrheit ist laut Googles Suchalgorithmen oft schlicht das, was am häufigsten verlinkt wird. Kritisches Denken kann dementsprechend davon beeinflusst werden, was am meisten, am heftigsten und mit dem größten Budget kritisiert wird.

Die Google-Suchergebnisse zur Frage „Hat der Holocaust wirklich stattgefunden?“ sind hier ein passendes Beispiel. Wer will garantieren, dass „kritisches Denken“ auch in Zukunft bedeutet, Holocaust-Leugnern zu widersprechen? Woher wissen wir, dass „kritisch sein“ in Zukunft nicht bedeutet, sämtliche historischen Fakten in Frage zu stellen? Für Generationen, die von Google und Facebook (mit)erzogen werden und noch viel mehr von YouTube (einer Google-Tochter), WhatsApp und Instagram (beides Facebook-Töchter)?

In einem anderen Fall sperrte YouTube LGBTQ-Inhalte für Nutzer*innen, die das Video-Portal im „eingeschränkten Modus“ nutzen. Dieser soll Eltern etwas mehr Kontrolle über die Inhalte geben, die ihre jüngeren Kinder zu sehen bekommen. Wir sprechen hier allerdings nicht über Pornografie, sondern einfach über Videos, in denen etwa homosexuelle, nichtbinäre oder intersexuelle Menschen vorkommen.

Es ist gut, Kinder vor blutigen Bildern, Gewaltdarstellungen oder Hardcore-Pornos zu schützen, die ihnen schweren Schaden zufügen könnten. Homosexuelle Menschen, die sich über verschiedene Themen unterhalten, tauchen für mich jedoch nicht in dieser Liste auf. Denn sie verursachen keinerlei Schaden, sondern können Kindern oder Jugendlichen sogar Antworten liefern, die sie möglicherweise und aus verschiedenen Gründen gezielt suchen. Sie können ihren Blick auf die Welt erweitern und verfeinern oder ihnen in ihrer Entwicklung zur Seite stehen. Das Vorgehen von Google wirft noch ganz andere Fragen auf, wenn man bedenkt, dass gleichzeitig YouTuber, die sich über Schwule aufregen, nicht herausgefiltert werden.

Nur Dienstleistungen anzubieten und dabei nach intransparenten, selbstgeschriebenen Regeln zu agieren, funktioniert nicht mehr

Vinton Cerf gab im Gespräch zu, dass Google an dieser Stelle nicht besonders gut und mindestens intransparent agiert hat. Der Fall zeigt aber auch, dass das Filtern oder Kategorisieren von Inhalten vielleicht nicht ganz so unmöglich ist, wie er es eingangs behauptete. Und dass wir mit dem Begriff „Zensur“ äußerst vorsichtig umgehen sollten.

Das gilt für Facebook natürlich genauso wie für Google. Wir wissen, dass das soziale Netzwerk Inhalte sowohl automatisiert als auch manuell filtert, und wir wissen, dass die Einschätzungen des Unternehmens hierbei nicht immer denen der User entsprechen. Doch Facebook macht die Regeln, und Google tut es auch. Dabei sollten sie eigentlich von der Allgemeinheit gemacht werden.

Ich stimme Vint Cerf zu: Es ist kompliziert. Es gibt keine einfache oder einzige Lösung und wir können Google nicht für alle gesellschaftlichen Herausforderungen und Probleme der Welt verantwortlich machen. Ich glaube aber, dass derart einflussreiche Unternehmen wie Google oder Facebook Teil der Gemeinschaft sein und dabei auch Verantwortungen übernehmen sollten. Nur Dienstleistungen anzubieten und dabei nach intransparenten, selbstgeschriebenen Regeln zu agieren, funktioniert nicht mehr.

Ich möchte nicht, dass jemand kontrolliert, was online veröffentlicht wird – aber ich möchte, dass es Konsequenzen hat

Google beeinflusst, wie wir die Welt sehen. Daher sollte das Unternehmen klarstellen, nach welchem Wertesystem es agiert. nd dieses System muss Teil einer ständigen gesellschaftlichen und auch politischen Debatte sein. Andererseits sind im Umgang mit Hate Speech und Fake News auch die Nutzer*innen gefragt, doch sie brauchen den Support der Plattformen. Nicht, damit diese Inhalte vorfiltern, sondern um die Unterscheidung von Fakten und Erfundenem zu vereinfachen und Missbrauch besser blocken und melden zu können.

Ich möchte nicht, dass jemand kontrolliert, was online veröffentlicht wird – aber ich möchte, dass es Konsequenzen hat. Menschen, die andere online auf Übelste attackieren, sind wie Fahrraddiebe: Sie tun es, weil es einfach ist und meist keinerlei Nachspiel hat. Ein gestohlenes Fahrrad kann man ersetzen, eine schwer geschädigte Psyche nicht.

Es ist an der Zeit, das alte Klischee von Don't be evil endgültig zur Seite zu legen und durch Don't be greedy zu ersetzen

Das sollte Google bedenken, denn der Tag wird kommen, an dem das Unternehmen andere Wege der Monetarisierung braucht als Werbung. Ad-Systeme spielen zwar Tonnen von Geld ein, doch für Nutzer*innen haben sie längst das Internet kaputt gemacht. Konstantes Tracking hat uns uns die Online-Privatsphäre genommen und unsere Smartphones in Überwachungswerkzeuge verwandelt, selbst wenn es „nur“ für Ads genutzt wird. Wir brauchen bessere Geschäftsmodelle, die vielleicht nicht mehr ganz so viel Geld einspielen, dafür aber der Allgemeinheit besser dienen.

Es ist an der Zeit, das alte Klischee von Don't be evil endgültig zur Seite zu legen und durch Don't be greedy zu ersetzen. Ich bin sicher: Google könnte als das weltweit größte gemeinnützige Unternehmen funktionieren – und vielleicht sogar erfolgreicher sein als je zuvor.

Den Giganten in ein Non-Profit-Unternehmen zu verwandeln, würde nicht alle Probleme lösen. Aber es würde das Spiel völlig neu gestalten, denn die Motive von Google würden sich komplett verändern. Mit google.org investiert der Konzern bereits in gemeinnützige Organisationen und Initiativen. Warum wird es also nicht selbst eine?

Eine längere, englischsprachige Version dieses Textes findet ihr auf Spreeblick.