Von Jannis Brühl

Entscheiden bald Maschinen, welche Bilder wir sehen und welche Sätze wir im Internet schreiben dürfen? In Deutschland tobt noch die Debatte über das Netzwerkdurchsetzungsgesetz, das Facebook und Twitter zwingt, "offensichtlich rechtswidrige" Inhalte zu löschen. Auf europäischer Ebene zeichnet sich schon der nächste Streit ab. Die Frage: Inwieweit sollen Inhalte im Netz kontrolliert werden - und wann schlägt diese Kontrolle in Zensur um? Kritiker fürchten ein allumfassendes System, das Videos, Bilder, Lieder und Texte automatisch vorfiltert.

Es geht um die Neufassung der EU-Richtlinie zum Urheberrecht. Die EU-Kommission will Online-Plattformen ab einer bestimmten Größe verpflichten, sogenannte Upload-Filter einzusetzen. "Zensurmaschinen" nennt Piraten-Abgeordnete Julia Reda die Filter. Sie sitzt im zuständigen Rechtsausschuss des Parlaments und läuft Sturm gegen die geplante Änderung. Am Montag veröffentlichte sie mit anderen Abgeordneten einen fraktionsübergreifenden Aufruf an den Rat, auf die Filter-Pflicht zu verzichten.

Solche Filter gleichen alle Inhalte, die Nutzer hochladen, mit einer schwarzen Liste ab. Übereinstimmungen werden sofort gelöscht - außer der Nutzer einigt sich mit den Inhabern der Rechte an dem Inhalt. Denn eigentlich soll die Reform sicherstellen, dass Musik- und Filmindustrie finanziell beteiligt werden können, wenn Nutzer geschützte Lieder oder Filme hochladen, womit sie teils auch Werbegeld verdienen. Für Reda ist das gefährliche Vorzensur: "Algorithmen sollen komplexe Entscheidungen über Legalität und Illegalität von Inhalten treffen, die nicht einmal Gerichte immer treffen können."

Der Passus, den die Kommission vorschlägt, ist vage gehalten und könnte theoretisch auch für Texte gelten. Er würde zumindest große Plattformen zwingen, automatisch jeden Beitrag zu prüfen. Wobei dort nicht steht, ab wann sie als "groß" gelten. Diego Naranjo von der Bürgerrechtsorganisation Edri sagt: "Es gibt keinen Weg, einen Upload-Filter zu verwenden, ohne alles zu scannen." Für ihn läuft es also auf Totalüberwachung hinaus. Die Kommission verweist darauf, dass die Regeln "fair" seien und es ein Beschwerdeverfahren für Nutzer geben soll, für den Fall, dass Beiträge ungerechtfertigt gesperrt würden. Neben Bürgerrechtlern kritisiert der Bundesverband Deutscher Start-ups die Filter. Gründer müssten teure Technologie einkaufen. Das würde es Start-ups noch schwerer machen, gegen Tech-Konzerne zu bestehen.

Eigentlich hat der Europäische Gerichtshof bereits 2012 geurteilt, dass pauschales Vorfiltern aller Inhalte gegen das Recht auf Privatsphäre und Informationsfreiheit verstößt. Nun versucht die Kommission trotzdem noch einmal, sie einzuführen. Der Rechtsausschuss des EU-Parlaments soll im Frühjahr entscheiden, ob er den Vorstoß der Kommission unterstützt.

Ein Horrorkabinett, um Kinder zu schützen

Nicht alle Upload-Filter sind umstritten. Die von Microsoft entwickelte Technologie PhotoDNA stellt sicher, dass der Mainstream des Internets überhaupt erträglich ist. Im US-Bundesstaat Virginia sitzt das "Nationale Zentrum für vermisste und ausgebeutete Kinder", eine Organisation, die im Auftrag des US-Kongresses Kindesmissbrauch bekämpft. Ihre Datenbank ist ein Horrorkabinett: Millionen Fotos, die zeigen, wie Kinder gequält werden. Sie bilden die Grundlage der schwarzen Liste für PhotoDNA. Schließlich versuchen Täter überall auf der Welt, entsprechende Inhalte ins Netz zu laden.

Das Programm berechnet aus den bereits bekannten Bildern sogenannte Hashwerte, eine Art digitaler Fingerabdruck. Netzwerke wie Facebook scannen mit der Software Inhalte, die ihre Nutzer hochladen. Entdeckt PhotoDNA einen bekannten Hashwert, wird der Upload blockiert und Ermittler alarmiert. Nach ähnlichem Muster blockt Facebook Rachepornos. Die Bilder für die entsprechende Datenbank sollen Nutzer selbst an Facebook schicken, wenn sie fürchten, von Ex-Partnern bloßgestellt zu werden.

PhotoDNA lasse sich aber nicht mit den geplanten EU-Filtern vergleichen, sagt Julia Reda: "Bilder von Kindesmissbrauch sind immer illegal. Bei Kunst und Meinungsäußerungen wird es viel schwieriger." Regierungen drängen die Plattformen, immer mehr zu filtern. Ein früher Entwurf des deutschen NetzDG beinhaltete eine Filterpflicht für große soziale Netzwerke. Juristen und Bürgerrechtler protestierten heftig, Justizminister Heiko Maas ließ die Idee fallen.