Mit Mathematik gegen Onlinehass

Nur rund eine Million Menschen weltweit sind für einen Großteil von rechtsradikalem Hass im Internet verantwortlich. Das berichten US-Mathematiker in einer Netzwerkstudie, die auch recht einfache Vorschläge zur Bekämpfung des Hasses macht.

Es ist fast wie das Amen im Gebet. Bevor ein rechtsradikaler (oder anderer) Terrorist zur Tat schreitet und unschuldige Menschen tötet, schreibt er in einem Sozialen Netzwerk über seine hasserfüllten Motive. Sind die Toten gezählt, ist die Empörung in der Öffentlichkeit darüber groß. Rufe werden laut, Menschen, die ähnliche Kommentare über Ausländer, Frauen oder sexuelle Minderheiten verbreiten, zu sperren.

Facebook und Co. versuchen, das mit Hilfe von Userhinweisen und Anti-Hass-Suchprogrammen auch zu tun, jedoch mit bescheidenem Erfolg. Neil Johnson wundert das nicht. „Statt bei den Individuen anzusetzen, sollte man die Cluster des Hasses bekämpfen“, sagt der Physiker von der George Washington University gegenüber science.ORF.at.

Wie kochendes Wasser

In seinem soeben mit Kollegen veröffentlichten Fachartikel zeigt er, dass es eine relativ kleine, aber weltweit extrem vernetzte Gruppe an Rechtsradikalen ist, die das „Universum des Onlinehasses“ verantwortet. Als Naturwissenschaftler vergleicht Johnson das Phänomen mit kochendem Wasser. „Um zu verstehen, wie Wasser kocht, muss man nicht einzelne Moleküle untersuchen, sondern die Blasen, die sich bilden.“ Den Blasen entsprechen in den Sozialen Netzwerken die Gruppen und Communitys, die sich um bestimmte Themen bilden.

Ausgehend von einer amerikanischen Ku-Klux-Klan-Gruppe auf Facebook hat Johnson die Verknüpfungen mit ähnlich rassistischen Gruppen auf verschiedenen Plattformen weltweit untersucht. Diese „Hass-Cluster“ bestehen typischerweise aus zehn bis 10.000 Mitgliedern. Weniger als 1.000 davon haben die Forscher entdeckt, das macht eine sehr grobe Schätzung von einer Million beteiligter Menschen.

Ein geografisches oder politisches Zentrum des Hasses gebe es nicht, die „Hater“ säßen rund um den Globus, und ihre Cluster seien eng miteinander verknüpft – netzwerkanalytisch gesprochen: um eine Ecke. Das führt zu der paradoxen Einsicht, dass die Hardcore-Nationalisten sehr international agieren und kommunizieren. „Besonders die Situation in Europa ist sehr kompliziert und verwoben“, sagt Johnson (siehe Bild unten). „Wenn wir alle Hass-Cluster miteinander verbunden hätten, wäre die ganze Europakarte eingefärbt.“

Nature 2019, Neil Johnson et al

Hass ohne Zentrum

Auch einzelne Plattformen möchte Johnson nicht als Zentren des Onlinehasses bezeichnen. Das russische Netzwerk VK gehe zwar nachsichtiger mit Rechtsradikalen um als Facebook, das Netzwerk Gab, das nicht Teil der aktuellen Untersuchung war, aber sei schlimmer als VK. Generell sei es wenig effektiv, Hass-Cluster auf einer bestimmten Plattform zu bekämpfen, sagt Johnson. Denn sobald eines auf einer Plattform gesperrt werde, tauche es auf einer anderen wieder auf.

Ö1-Sendungshinweis Über das Thema berichten auch die Ö1-Journale, 22.8., 12:00 Uhr.

„Wir haben das bei einer Ku-Klux-Klan-Gruppe beobachtet. Sie wurde auf Facebook gesperrt und ist dann auf VK umgezogen – auf der Plattform gibt es eigene Begrüßungsrituale für ‚Facebook-Flüchtlinge‘. Nach einiger Zeit ist die Gruppe wieder zurück auf Facebook gewesen, wieder mit dem ‚KKK‘-Schriftzug. Weil er nun aber in kyrillischer Schrift war, hat ihn der Facebook-Suchalgorithmus nicht entdeckt“, erzählt Johnson.

„Stromausfall“ im Netzwerk der Rassisten

Für den Physiker sollten Gegenstrategien deshalb auch anders ansetzen als bisher. Und zwar weder auf der Makroebene – etwa indem man Facebook oder andere Internetriesen zerschlägt, wie das immer wieder einmal vorgeschlagen wird – noch auf der Mikroebene, indem man prominente Einzelpersonen verfolgt oder sperrt. „Das schafft nur Märtyrer, die ihre Sperre propagandistisch ausschlachten können“, sagt Johnson.

Besser sei es, dazwischen anzusetzen – eben bei den Hass-Clustern. Würde man drei bis fünf Prozent, per Zufall ausgewählte Mitglieder sperren, würde das Netzwerk stark leiden, spätestens bei zehn Prozent komplett zusammenbrechen. Empirisch beobachtet wurde das zwar noch nicht, Johnson ist sich aber sicher, dass das funktioniert. Die Mathematik dahinter sei dieselbe wie bei einem Blackout, nachdem eine bestimmte Anzahl von Stromverbindungen ausgefallen ist.

Weitere Ideen, die der Physiker Sozialen Plattformen empfiehlt: Anti-Hass-Cluster, die es ja auch gibt, direkt mit Hass-Clustern in Verbindung bringen. „Facebook sollte nicht immer Gleichgesinnte in Verbindung bringen, sondern genau das Gegenteil“, rät Johnson. Und: die Einrichtung von „vermittelnden Clustern“, die auf ideologische Widersprüche von Hass-Clustern aufmerksam machen.

In Großbritannien gebe es etwa zwei sehr verwandte Hassgruppen, die eine propagiere eine Art vereintes faschistisches Europa, die andere ein komplett segregiertes, inklusive der Trennung von England vom Rest Großbritanniens. Obwohl bei allen anderen Themen fast meinungsgleich, könnte dieser fundamentale Unterschied einige der Hater vielleicht ins Grübeln bringen – wenn sie darauf von der vermittelnden Instanz hingewiesen werden, so Johnsons Hoffnung.

Nature 2019, Neil Johnson et al

Was die neue Netzwerkanalyse ebenfalls zeigt: Obwohl Rechtsradikale und Islamisten einander gerne bekämpfen, verhalten sie sich (auch) im Internet ausgesprochen ähnlich. Selbstorganisation, Ausweichverhalten nach Sperren und Restrukturierung ihrer Hass-Cluster sind nahezu deckungsgleich, berichten die Forscher. Im Bild links oben ist die Netzwerkanalyse von KKK-Hass-Clustern zu sehen, die sich nach einem Schulmassaker im Februar 2018 stark verknüpft haben. Ähnliches sieht man auch bei dschihadistischen, der Terrororganisation Islamischer Staat (IS) nahestehenden Gruppierungen (Bild rechts), nachdem im März 2015 Gerüchte aufgetaucht waren, dass der IS-Führer Abu Bakr al-Baghdadi verwundet worden sei.

Lukas Wieselberg, science.ORF.at