"Nazischlampe" ist okay, aber nicht als Zitat: Das neue Gesetz gegen Verleumdung und Beleidigung in sozialen Medien führt zu weniger Sperren als erwartet, aber: Den einen wird zu viel geblockt, den anderen zu wenig.

Von Jannis Brühl und Caspar von Au

Als die Trolle sie mal wieder auf Twitter mit Hakenkreuzen und Gaskammer-Cartoons bombardierten, zog die jüdische US-Journalistin Virginia Heffernan nach Deutschland, in den Kurort Bad Wildbad im Schwarzwald. Dorthin folgten ihr die Online-Hetzer nicht. Zumindest sehe sie deren beleidigende und antisemitische Botschaften in dem sozialen Netzwerk nicht mehr, schreibt Heffernan auf Zeit Online. Sie führt das auf das Netzwerkdurchsetzungsgesetz (NetzDG) zurück, das seit 1. Januar 2018 in Deutschland voll greift. Twitter filtert die Hetze heraus, weil Heffernan als Standort in ihren Kontoeinstellungen Bad Wildbad angegeben hat. Tatsächlich lebt die Journalistin nach wie vor in den USA, umgezogen ist nur ihr Twitter- Account. Deutschland, ihre virtuelle neue Heimat, sieht sie nun als Schutzraum. Und das liegt an einer international einmaligen Erfindung, wenn es darum geht zu kontrollieren, was im Internet geschieht: dem NetzDG.

Das Internet bringt die Menschen zusammen, aber die anderen können das Netz auch zur Höllenmaschine machen. Flüchtlingshelfer sehen sich ebenso Verleumdungskampagnen ausgesetzt wie Schüler, die gemobbt werden. Deutschland will das Problem mit dem NetzDG lösen: Wer Straftaten wie Beleidigung oder Bedrohung im Netz stehen lässt, muss als Plattformbetreiber mit hohen Bußgeldern rechnen. Ein halbes Jahr nach dem Stichtag 1. Januar ziehen Google, Facebook und Twitter erstmals Bilanz, und anderslautenden Befürchtungen zum Trotz ist das Internet noch lebendig. Die Zahlen, die die Betreiber am Freitag vorgelegt haben, deuten nicht daraufhin, dass es zu Löschorgien nach dem NetzDG kommt. Nur bei einem Bruchteil der Beschwerden wird blockiert.

Die Analyse und Sperrung von Strafbarem waren für Google, Facebook und Twitter lange nur Kostenfaktoren, nun werden sie gezwungen, solche Inhalte abzuschalten. Wenn sie nicht löschen, entstehen ihnen noch höhere Kosten. Die Bußgelder betragen bis zu 50 Millionen Euro, selbst für das Silicon Valley eine ernst zu nehmende Drohung. Das NetzDG umfasst 21 Straftatbestände, von Beleidigung über Bedrohung bis zur Aufforderung zu Straftaten.

Die Debatte über Flüchtlinge wurde teils hasserfüllt geführt

So beliebt wie bei der digital geflüchteten Heffernan ist das NetzDG nicht bei vielen. Seit es der damalige Bundesjustizminister Heiko Maas (SPD) plante, kritisieren Linke wie Rechte das Gesetz als Regelwerk, das die Meinungsfreiheit einschränke. Auslöser für das Gesetz war die Zunahme von Beleidigungen und Volksverhetzungen in sozialen Medien, nachdem 2015 viele Menschen nach Deutschland geflüchtet waren. Die Debatte wurde teils hasserfüllt geführt. Maas aber brachte das Gesetz trotz aller Kritik durch. Nun also das Ergebnis des Praxistests: Auf Googles Video-Plattform Youtube meldeten Nutzer und speziell beauftragte Beschwerdestellen wie jugendschutz.net 214 827 Beiträge, dazu zählen auch Kommentare unter Videos. 58 297 dieser gemeldeten Beiträge wurden blockiert, sie sind für Nutzer aus Deutschland nicht mehr zu sehen. Mehr als ein Drittel der gemeldeten Inhalte waren "Hassrede oder politischer Extremismus", wie es Google nennt, darauf folgen "Persönlichkeitsrechtsverletzung und Beleidigung".

Im Vergleich zu Google fallen die Zahlen von Facebook geradezu niedlich aus: 1704 Beiträge wurden gemeldet, davon blockierte Facebook 362, am häufigsten wegen Beleidigung, übler Nachrede und Volksverhetzung. Das liegt vermutlich daran, dass Facebook, geübt in manipulativem Design von Software-Oberflächen, das Formular versteckter platziert hat als die Konkurrenten. Man fragt sich, was denn die 65 Mitarbeiter, die für Facebook NetzDG-Meldungen bearbeiten, den ganzen Tag so machen. Twitter blockierte 28 645 von 264 816 gemeldeten Beiträgen. Die im Vergleich niedrige Blockierquote von weniger als elf Prozent - bei Facebook und Youtube sind es mehr als 20 - ist womöglich damit zu erklären, dass Twitter die politischste der Plattformen ist. Dort sind viele Nutzer auch Teil- oder Vollzeitaktivisten und streiten über tagesaktuelle Themen. Gegner des Gesetzes beobachten dort besonders argwöhnisch, ob Twitter zensiert. Das Unternehmen war deshalb wohl besonders zurückhaltend mit Sperren.

Detailansicht öffnen Was die großen Social-Media-Plattformen sperrten. (Foto: SZ)

Die erste Bilanz des Gesetzes zeigt auch: Die Plattformen lehnen den Großteil der Anzeigen, die sie von Nutzern über ihre neu geschaffenen Meldesysteme erhalten, ab. Insbesondere Youtube wird mit Meldungen geflutet. 73 Prozent der gemeldeten Beiträge sind den internen Prüfern zufolge strafrechtlich nicht relevant. Es sei viel "Spam" dabei, sagt ein Sprecher von Google Deutschland: "Viele der Meldungen stehen in keinem Zusammenhang zum deutschen Strafrecht oder sind völlig unsubstantiiert, sodass wir keine Maßnahmen ergreifen."

Dennoch geht die Debatte, ob das Gesetz Zensur fördert, jetzt wieder los. Besonders schwierig für die Unternehmen ist, dass die meisten Meldungen laut Gesetz binnen 24 Stunden bearbeitet sein müssen. Aber es dauert oft länger, eine Aussage zu beurteilen. Ein Google-Sprecher sagt: "Die Sorge vor sogenanntem Overblocking ist berechtigt. Wir müssen bei der Prüfung primär auf Schnelligkeit achten, wo es doch eigentlich um sorgfältiges Abwägen gehen müsste." Wie oft die Blockaden schiefgehen, bleibt unklar. Weder Facebook noch Google geben Zahlen heraus, wie oft sie Blockaden wieder aufgehoben haben. Ein weiteres Problem: "Es gibt einfach Fälle, bei denen es auch nach Monaten nicht klar ist, ob die Inhalte legal oder illegal sind." Die Zahlen messen nicht, ob es eine Abkühlung des Debattenklimas gibt: In Großbritannien hätten indes verstärkte Bemühungen, Beiträge zu sperren, dazu geführt, dass etwa Nutzer, die gegen Einwanderung sind, sich zurückhaltender äußern. So heißt es aus einem der großen Netzwerke. Der Grat zwischen Zivilisieren und Einschränken einer Debatte, zwischen Moderieren und Zensieren ist schmal.

Die neuen Schlagwörter heißen Under- und Overblocking

Wer mit Betroffenen spricht, trifft auf Wut, auch weil trotz des Gesetzes in einigen Fällen offenbar zu zaghaft gelöscht wird. Gerade auf Twitter klagen Nutzer über "Underblocking". Jemanden als "deutschen Hurensohn" zu bezeichnen, verstößt offensichtlich nicht gegen die Richtlinien der Plattform. "Ich war entsetzt, als ich diese Mitteilung bekam", sagt der SPD-Lokalpolitiker Dieter Tillmann aus Rheinland-Pfalz. Er hatte zwei an ihn gerichtete Tweets als beleidigend gemeldet, doch gelöscht wurde nichts. "Was soll dann das NetzDG?" Sein Eindruck: Auf der einen Seite würden kritische Meinungen gesperrt, Beleidigungen blieben dagegen häufiger mal stehen. "Da wird mit zweierlei Maß gemessen", sagt Tillmann. Er werde wegen der beiden Tweets Anzeige erstatten.

Reporter ohne Grenzen vermutet dagegen, dass die Unternehmen mit Verweis auf ihre Gemeinschaftsstandards, also ihr jeweiliges Hausrecht, nun viel großzügiger löschten als zuvor. Dadurch entgingen sie nicht nur möglichen Strafen nach NetzDG, sondern müssten über diese Löschungen dem Staat auch keine Rechenschaft ablegen. Das müssen die Nutzer vor Gericht erzwingen, indem sie gegen die Löschung ihrer Beiträge und die Sperrung ihrer Social-Media-Konten klagen.

Genau das tut der Hamburger Rechtsanwalt Joachim Steinhöfel. Er ist einer der lautesten Wortführer des Zensurvorwurfs, den vor allem politisch Rechte gegen das Gesetz erheben. Steinhöfel bemängelt, dass die drohenden Bußgelder die Anbieter dazu verleite, auf Nummer sicher zu gehen. Mehrfach hat er im Auftrag seiner Mandanten seit April einstweilige Verfügungen gegen Facebook erwirkt, wie Mitte Juli im Fall von Gabor B.: In einem Facebook-Kommentar bezeichnete ein Nutzer eine andere Nutzerin als "Nazischlampe". B. zitierte in einem eigenen Kommentar die Bezeichnung und stellte sie infrage - für das Zitat wurde er von Facebook für 30 Tage gesperrt. Der ursprüngliche Kommentar verstoße hingegen nicht gegen die Nutzungsbedingungen, befand das Unternehmen offenbar. Er blieb stehen. "Bei Facebook herrscht totales Chaos", sagt Anwalt Steinhöfel. Das Landgericht Berlin urteilte, dass die Löschung von B.s Beitrag und die Sperre unrechtmäßig waren.

Das zuständige Bundesamt für Justiz, eine nachgelagerte Behörde der Justizministeriums, wird nun prüfen, inwieweit die Unternehmen die Vorgaben des Gesetzes umgesetzt haben. Bis 2020 soll das Gesetz auf dieser Basis und den halbjährlich fälligen Berichten der Unternehmen evaluiert werden. Dann muss geklärt werden, ob sich die Wehrhaftigkeit der deutschen Demokratie gegen einen anderen wichtigen Wert richtet: gegen die Meinungsfreiheit.

Das NetzDG hat nicht nur eine politische Dimension: Restaurantbesitzer etwa fühlen sich von Gästen verleumdet, die das Essen schlecht fanden. Facebook weiß aber nicht, wie schlecht das Mahl nun wirklich war. Andere melden ihren Schönheitschirurgen wegen angeblichen Pfuschs am Körper. Und auf Youtube beschwerte sich ein Nutzer über ein Video, in dem er illegale Propaganda für "Kuscheln" erkannt haben wollte. Google lehnte die Meldung ab. Das wäre ja auch Zensur.