Ab sofort ist es verboten, sich bei Reddit als jemand anders auszugeben, sowohl in Form eines Profils als auch in Beiträgen. Dazu gehört das Verkörpern anderer Personen, aber auch eine falsche beziehungsweise irreführende Darstellung von Dingen sowie Deepfakes. Satire und Parodie bleibt weiterhin erlaubt, heißt es in einem Blogpost von Reddit, in dem die Plattform die Änderung ankündigt, dafür werde man den Kontext einbeziehen.

Reddit hatte bereits 2018 Deepfake-Pornos verboten. In einer Stellungnahme zum Update schreibt der Reddit-Admin LastBluejay, man habe bisher wenig solcher Inhalte gesehen, die gegen die neuen Richtlinien verstoßen hätten, jedoch wolle man ihnen vorsichtshalber mit der Änderung zuvorkommen. Auch er betont nochmal, dass nicht automatisch alle Deepfakes verbannt würden, sondern nur solche, die auf gefährliche Art irreführend sind. "Glaubt mir, wir mögen es genauso wie ihr, Nic [sic] Cage an ungewöhnlichen Orten zu sehen."

Kontrolle und Meldefunktion

Auch Facebook hat gerade angekündigt, Deepfakes löschen zu wollen, allerdings auch hier eingeschränkt auf jene, die gezielt zur Meinungsmanipulation beitragen sollen. Ausgenommen sind ebenfalls Satire und Parodien. Zudem löscht das soziale Netzwerk Videos, die mithilfe von KI- oder Machine-Learning-Verfahren erstellt wurden und dabei verschiedene Inhalte zusammenführen, so dass es am Ende authentisch wirkt.

Fragwürdig ist, wie und wer die Kriterien kontrolliert. Facebook hat eine Deepfake-Detection-Challenge gestartet, ein Wettbewerb für Techniken, um Fälschungen zu erkennen. Reddit baut anscheinend auf seine Nutzer, die Beiträge und Personen direkt melden können, die gegen die Richtlinie verstoßen.

Deepfakes sieht auch die Bundesregierung als große Gefahr für Politik und Gesellschaft. Im Innenministerium gibt es einen entsprechenden Arbeitsbereich der Abteilung Cyber- und Informationssicherheit. KI-Verfahren werden aber auch dahingehend getestet, wie sie bei der Strafverfolgung nützlich sein können. (emw)