In einem Brief an die EU-Kommission fordern die Innenminister von Deutschland und Frankreich eine gesetzliche Regelung, um gegen Terrorpropaganda auf Online-Plattformen vorzugehen. Facebook, Twitter & Co sollen Inhalte innerhalb einer Stunde löschen. Eine Ausweitung über Terrorpropaganda hinaus ist angedacht. Dieser Vorstoß gefährdet jedoch die Meinungsfreiheit – und das Providerprivileg.

Online-Plattformen wie Facebook, Youtube oder Twitter sollen verpflichtend „rechtswidrige terroristische Inhalte“ innerhalb einer Stunde entfernen. Handeln sie nicht schnell genug, sollen sie dafür haftbar gemacht werden.

Das fordern die Innenminister Deutschlands und Frankreichs, Horst Seehofer (CSU) und Gérard Collomb (PS, Sozialdemokraten), in einem gemeinsamen Brief von Mitte April an die EU-Kommission, den wir hier veröffentlichen (aus dem PDF befreit). Sollte der Vorschlag einer Gesetzesinitiative umgesetzt werden, liefe das einerseits auf den verbindlichen Aufbau einer europaweiten Zensurinfrastruktur hinaus, die – wie der Brief andeutet – bald auf andere Inhalte ausgeweitet werden könnte.

Andererseits gefährdet der Vorstoß de facto das sogenannte Providerprivileg, das zu einem Grundpfeiler der europäischen Internetwirtschaft zählt. Dieses stellt Anbieter von der Haftung frei, wenn Nutzer illegale Inhalte auf ihre Plattformen hochladen. Löschen müssen sie erst, wenn sie auf solche Inhalte aufmerksam gemacht werden und nicht handeln.

Damit drängen die beiden Innenminister die EU-Kommission dazu, deren „Empfehlung“ von Anfang März in Gesetzesform zu gießen und sie zusätzlich mit Sanktionen für Verstöße zu verknüpfen. Diese Empfehlung hat die Kommission erst im März präsentiert. Sie richtet sich gegen „terroristische Inhalte, Aufstachelung zu Hass und Gewalt, Darstellungen des sexuellen Missbrauchs von Kindern, Produktfälschungen und Urheberrechtsverletzungen“.

Erster Schritt Richtung Zensurinfrastruktur: Anti-Terror

Besonders angetan haben es der Kommission terroristische Online-Inhalte, die innerhalb einer Stunde nach einer Meldung von den Plattformen verschwinden sollen. Eine zentrale Hash-Datenbank mit digitalen Fingerabdrücken solcher Inhalte und daran angeschlossene Upload-Filter sollen dafür sorgen, dass sie nicht mehr erneut hochgeladen werden können. Man habe „bei den großen Unternehmen angeregt, kleinere Plattformen logistisch zu unterstützen“. Mit anderen Worten: Google, Facebook und Co sollen ihre Uploadfilter kleineren Plattformen zur Verfügung stellen, in der Regel läuft das über Lizenzieren. Welche Plattformen genau betroffen sein sollen, ist noch unklar.

Doch bislang beließ es die Kommission bei diesen „freiwilligen“ Maßnahmen, auch wenn sie den Plattformen beständig das Damokles-Schwert legislativer Schritte über den Kopf hielt. Bis Mai gab sie den Plattformbetreibern – und den Mitgliedstaaten – Zeit, „relevante Informationen zu terroristischen Inhalten“ vorzulegen. Gepaart mit den Ergebnissen einer öffentlichen Konsultation sowie einer Folgenabschätzung wollte sie anschließend entscheiden, ob die bisherigen Schritte ausreichend waren – oder ein konkretes Gesetz kommen soll.

Innenminister wollen rasch handeln

Augenscheinlich wollen Seehofer und Collomb aber nicht mehr länger warten. „Nach alledem ist deutlich geworden, dass die Unternehmen immer noch zu lange brauchen, um rechtswidrige terroristische Inhalte von ihren Plattformen zu entfernen“, schreiben die Innenminister. Zudem sei die Kooperationsbereitschaft bei den Plattformen bislang unterschiedlich ausgeprägt und „insgesamt unzureichend“, eine Besserung sei nicht in Sicht.

So fordern sie von den Plattformen ein, „rechtswidrige terroristische Inhalte“ innerhalb einer Stunde „nach Veröffentlichung“ zu entfernen. Dies wäre eine fundamentale Abkehr vom bisherigen, in der E-Commerce-Richtlinie verankerten Prinzip, das eine Meldung voraussetzt (auch wenn sich später die Formulierung „gemeldete rechtswidrige terroristische Inhalte“ wiederfindet). Zwar erwähnt der Brief die Richtlinie, begrüßt aber eine „engere Anwendung“. Enger geht es kaum, denn proaktiven Überwachungspflichten schiebt nicht nur die E-Commerce-Richtlinie einen Riegel vor, sondern vor allem eindeutige Urteile des Europäischen Gerichtshofes.

Overblocking lässt sich kaum vermeiden

Und selbstverständlich wäre kein Anbieter in der Lage, die Fülle an beständig hochgeladenem Material zuverlässig zu überprüfen und einschlägige Inhalte auszusieben. Die Folge dürfte massives Overblocking der Plattformen sein, um den angedrohten Sanktionen aus dem Weg zu gehen. Obwohl die Innenminister eine „allgemeine Transparenz- und Rechenschaftspflicht“ sowie „formalisierte Tätigkeitsberichte“ als Schutzmechanismen anmahnen, bleibt der Spielraum unverhältnismäßig weit. Selbst in der Empfehlung der Kommission finden sich lediglich unbestimmte Aufforderungen und Konjunktive, die Nutzer vor ungerechtfertigten Löschaktionen schützen sollen. Rechtsverbindliche Instrumente zum Schutz der Meinungs- und Informationsfreiheit finden sich in den Vorschlägen nicht wieder.

Problematisch ist auch eine recht weite Auslegung dessen, was in der Europäischen Union unter „Terrorpropaganda“ verstanden werden kann.

In ihrem Antwortschreiben vom vergangenen Freitag bedankt sich die Kommission höflich für das Schreiben, gibt sich sonst aber zurückhaltend. So arbeite sie „derzeit an einer umfassenden Folgenabschätzung, bei der alle relevanten Daten und Fakten zusammengetragen werden, und verschiedene Optionen im Detail abgeschätzt werden“. Die Tür zu einem Gesetz macht die Brüsseler Behörde jedoch nicht zu: „Im Rahmen dieser Folgenabschätzung prüfen wir das gesamte Spektrum von Optionen, von freiwilligen Systemen mit klaren Überwachungsrahmen bis hin zu zusätzlichen, verbindlichen Rechtsvorschriften.“

Gemeinsamer Brief von Horst Seehofer und Gerard Collomb vom 12. April 2018.

Sehr geehrter Herr Vizepräsident,

sehr geehrte Frau Kommissarin Gabriel,

sehr geehrte Frau Kommissarin Jourová,

sehr geehrter Herr Kommissar Avramopoulos,

sehr geehrter Herr Kommissar King,

anknüpfend an die Schlussfolgerungen des Europäischen Rates vom Juni 2017 zur Terrorismusbekämpfung haben Frankreich und Deutschland den Kampf gegen den Missbrauch des Internets zu terroristischen Zwecken zu einem vorrangigen Ziel erklärt.

Wir haben uns entschlossen, die durch die Kommission im EU Internet Forum geleistete Arbeit weiterzuführen und den gemeinsamen europäischen Handlungsbedarf auf diesem Gebiet zu definieren. An erster Stelle stehen dabei Handlungsfähigkeit und Transparenz auf Seiten der Plattformen.

Gemeinsam haben wir einen direkten Austausch mit den Verantwortlichen der am Global Internet Forum to Counter Terrorism (GIFCT) teilnehmenden Unternehmen aufgenommen. Wir haben die Unternehmen aufgefordert, die erforderlichen Maßnahmen zur effektiven Erkennung und Entfernung rechtswidriger terroristischer Internetinhalte zu treffen. Darüber ninaus sollen die Unternehmen die zugehörigen Hashwerte austauschen, um so einer erneuten Veröffentlichung dieser bereits als rechtswidrig erkannten Inhalte vorzubeugen.

Nach unserer Auffassung sollen sich die Plattformen an die folgenden Standards halten:

Rechtswidrige terroristische Inhalte müssen innerhalb einer Stunde nach Veröffentlichung entfernt werden. Die Einhaltung dieses Zeitrahmens ist unerlässlich, um eine virale Verbreitung wirksam zu verhindern.

Weiter ist erforderlich, zusammen mit der Kommission die von den Unternehmen vorzulegenden Statistiken über die Entfernung von rechtswidrigen terroristischen Inhalten eingehend zu prüfen. Hierzu sollte eine gemeinsam mit Europol entwickelte Matrix verwendet werden. Diese Matrix beinhaltet unter anderem die Anzahl der Löschungen in Reaktion auf Meldungen durch die Mitgliedstaaten und durch Europol, die durchschnittliche Reaktionszeit bis zur vollständigen Löschung, sowie Angaben zur gemeinsamen Datenbank der Hashwerte.

Darüber hinaus haben wir bei den großen Unternehmen angeregt, kleinere Plattformen logistisch zu unterstützen. Die Ressourcen der kleineren Unternehmen reichen mitunter noch nicht aus, um rechtswidrige terroristische Inhalte schnell entfernen zu können.

Nach alledem ist deutlich geworden, dass die Unternehmen immer noch zu lange brauchen, um rechtswidrige terroristische Inhalte von ihren Plattformen zu entfernen. Trotz der konsequenten Bemühungen der Kommission ist die Kooperationsbereitschaft bei den Plattformen bislang unterschiedlich ausgeprägt und insgesamt unzureichend. Leider deutet derzeit wenig darauf hm, dass sich dies in Zukunft bessern wird. Dies liegt auch daran, dass der europäische Rechtsrahmen keine Durchsetzungs- oder Sanktionsmöglichkeiten vorsieht.

Angesichts der sehr unterschiedlich ausgeprägten Bemühungen der Unternehmen um Kooperation und Transparenz ist eine Anpassung des Rechtsrahmens auf europäischer Ebene unerlässlich.

Wir begrüßen die Veröffentlichung der Empfehlungen der Kommission „Umgang mit legalen Online-Inhalten – Mehr Verantwortung für Online-PlattformenL Sie stellen einen wichtigen und stimmiger Anlauf dar, um eine engere Anwendung der Richtlinie 2000/31/EG vom 8. Juni 2000 (Richtlinie über den elektronischen Geschäftsverkehr) zu erreichen.

Aus unserer Sicht muss jede Verletzung einer Verpflichtung, gemeldete rechtswidrige terroristische Inhalte binnen einer Stunde zu entfernen, sanktioniert werden. Ebenso ist eine allgemeine Transparenz- und Rechenschaftspflicht vorzusehen. Diese sollte durch formalisierte Tätigkeitsberichte umgesetzt werden. Zur Durchsetzung bei Nichteinhaltung müssen Sanktionen eingeführt werden. Eine Gesetzesinitiative auf europäischer Ebene wäre dafür die beste Lösung.

Das Hauptaugenmerk einer solchen Initiative sollte sich, wie dargelegt, auf rechtswidrige terroristische Inhalte richten. Die Bekämpfung des Terrorismus und des Missbrauchs des Internets für terroristische Zwecke ist unser vordringliches Ziel. Es ist auch eine Voraussetzung für den Erhalt unserer freien und offenen Gesellschaft. In einem späteren Schritt sollten die Regeln evaluiert und gegebenenfalls um Maßnahmen zur Bekämpfung kinderpornografischer Inhalte und sonstiger rechtswidriger Inhalte erweitert werden.

Die allgemeinen Nutzungsbedingungen der verschiedenen Plattformen unterscheiden sich von Fall zu Fall und stehen nicht immer mit den nationalen Vorschriften im Einklang. In der Praxis definiert jede Plattform die verbotenen Inhalte nach eigenen Kriterien und in eigener Terminologie. Es sollte deshalb vorgeschrieben werden, dass die Unternehmen – zusätzlich zum ausdrücklichen Verbot rechtswidriger terroristischer Inhalte – Informationen und Vorgehensweisen in ihren allgemeinen Nutzungsbedingungen darstellen, insbesondere:

Informations- und Warnhinweise, um die Nutzer zur Einhaltung der nationalen gesetzlichen Bestimmungen zu ermahnen;

angemessene Sanktionen gegen Nutzer, die unerlaubte Inhalte online stellen (beispielsweise Warnnachricht an den Nutzer, vorübergehende Sperrung des Kontos mit entsprechender öffentlicher Meldung, Schließung des Kontos);

Ferner sollte die Benachrichtigung über die Entscheidung des Unternehmens zur Entfernung eines Inhalts und die Begründung dafür nicht nur an dessen Urheber (bzw. den Nutzer der Plattform) erfolgen, sondern auch an den Meldenden (sofern dies polizeiliche Ermittlungen nicht behindert).

Damit das Rechtsetzungsverfahren noch zu Ende geführt werden kann, sollte die von der Kommission geplante öffentliche Konsultation bereits im April 2018 begonnen werden. Ein Legislativentwurf könnte so bereits im Juni 2018 vorgelegt werden.

Mit freundlichen Grüßen

Horst Seehofer, MdL

Bundesminister des Innern, für Bau und Heimat

Antwort der EU-Kommission an die beiden Innenminister vom 31. Mai 2018

Sehr geehrter Herr Minister Collomb,

Sehr geehrter Bundesminister Seehofer,

Vielen Dank für Ihr Schreiben vom 12. April.

Der Kampf gegen den Missbrauch des Internets zu terroristischen Zwecken ist nach wie vor eine zentrale Priorität der Europäischen Kommission. Die europaweiten Anstrengungen, welche im Rahmen des EU-Internetforums unternommen werden, bezeugen dies, indem sie zum einen darauf hinarbeiten den Zugang zu terroristischen Inhalten in Internet weiter zu reduzieren, gleichzeitig aber auch die Zivilgesellschaft dabei stärken, effektive Alternativen zur Terrorpropaganda in Netz zu entwickeln.

Wir nehmen zur Kenntnis, dass Ihre bevorzugte Handlungsoption darin besteht, den Rechtsrahmen Europaweit mit einem Rechtsinstrument anzupassen. Ihrer Meinung nach, soll ein solches Rechtsinstrument Verpflichtungen zur Transparenz sowie zum Entfernen von Inhalten innerhalb einer Stunde beinhalten. Sanktionen bei Verstößen gegen diese Verpflichtungen sind Ihnen ebenfalls wichtig. Wir nehmen auch zur Kenntnis, dass Sie eine öffentliche Konsultation unterstützen, und freuen uns zu bestätigen, dass eine solche Konsultation am 30. April 2018 begann und am 25. Juni 2018 schließen wird.

Auf der Grundlage unseres gemeinsam vereinbarten Aktionsplans gegen Terrorinhalte in Internet haben wir in den letzten drei Jahren durch eine enge Zusammenarbeit erhebliche Fortschritte erzielt: Vier große Unternehmen haben ein Hash-Sharing-Konsortium eingerichtet, um die Verbreitung terroristischer Inhalte über Plattformen zu hindern, welches derzeit von 12 Unternehmen genutzt wird.

Die ausgezeichnete Arbeit der EU-Meldestelle für Internetinhalte bei Europol spielt nach wie vor eine wichtige Rolle beim Melden von terroristischen Inhalten an Internetunternehmen, aber auch durch Rationalisieren EU-weiter Anstrengungen, sowie bei der Bereitstellung operativer Unterstützung und Analysen für Mitgliedstaaten.

Darüber hinaus haben wir das Programm zur Stärkung der Zivilgesellschaft ins Leben gerufen, in dessen Rahmen im Jahr 2017 mehr als 250 Organisationen ausgebildet wurden. Dies geschah durch eine enge Zusammenarbeit zwischen dem Aufklärungsnetzwerk gegen Radikalisierung {Radicalisation Awareness Network) und Intemetunternehmen. Wir werden weiter finanzielle Unterstützung für die Verbreitung wirksamer alternativer Darstellungen bereitstellen.

Trotz dieser Fortschritte sind wir uns bewusst, dass weiter dringender Handlungsbedarf besteht, besonders im Schlüsselbereich der Transparenz. Die Mitteilung der Kommission zur Bekämpfung illegaler Online-Inhalte vom September 2017, und die Empfehlung der Kommission für Maßnahmen zur wirksamen Bekämpfung illegaler Online-Inhalte vom März 2018 erkennen an, dass Selbstregulierung bei bestimmten Arten illegaler Inhalte wirksam ist. Die Empfehlung enthält klare Leitlinien für digitale Plattformen, um ihrer Verantwortung bei der Bekämpfung illegaler Online-Inhalte nachkommen zu können.

Die Europäische Kommission arbeitet derzeit an einer umfassenden Folgenabschätzung, bei der alle relevanten Daten und Fakten zusammengetragen werden, und verschiedene Optionen im Detail abgeschätzt werden. Dies wird auch die Ergebnisse der Empfehlung der Kommission und des Überwachungs- und Berichterstattungsmechanismus, welcher im Rahmen des EUInternetforums eingerichtet wurde, berücksichtigen.

Die Dienststellen der Kommission analysieren im Moment die aktuellsten Daten, welche Mitgliedsstaaten und Intemetfirmen beim Treffen des EU Internetforums am 22. Mai vorgestellt haben. Im Rahmen dieser Folgenabschätzung prüfen wir das gesamte Spektrum von Optionen, von freiwilligen Systemen mit klaren Überwachungsrahmen bis hin zu zusätzlichen, verbindlichen Rechtsvorschriften.

Wir sind der Auffassung, dass alle relevanten Optionen sorgfältig geprüft werden müssen, damit sichergestellt ist, dass etwaige zusätzliche Maßnahmen unsere Ziele wirksam erreichen. In den nächsten Wochen werden die Dienststellen der Kommission die zuständigen Ministerien in den Mitgliedstaaten kontaktieren, um den besten Weg weiter zu erörtern.

Andrus Ansip

Dimitris Avramopoulos

Julian King

Mariya Gabriel