Auszüge aus Facebooks geheimen Löschregeln sind öffentlich geworden. Es fällt auf: Der Zensur- und Moderationsleitfaden des Unternehmens ist kompliziert und manchmal schwer nachzuvollziehen – wir geben einen Überblick.

Dem Magazin der Süddeutschen Zeitung (SZ) ist es gelungen, erstmals ein detailliertes Bild zu zeichnen, wie die Moderation bei Facebook funktioniert. Schon vor einigen Wochen waren einige Details bei Mobilegeeks beschrieben worden, welche die SZ-Reportage nun bestätigt.

Wer als Commercial Content Moderator bei einem Unternehmen wie Arvato angestellt ist und für Facebook moderieren soll, der bekommt ein Regelwerk vorgelegt, wie er zu zensieren hat. Teile des Regelwerks hat die SZ nun veröffentlicht. Wir haben Facebooks interne Löschregeln mal aus der Klickstrecke bei der Süddeutschen befreit – und geben hier den Überblick.

Laut den Recherchen der SZ gibt es bestimmte geschützte Kategorien wie Geschlecht, Religionszugehörigkeit, nationale Herkunft, geschlechtliche Identität, Rasse (Race), Ethnizität, sexuelle Orientierung sowie Behinderung oder Krankheit. Nimmt man nun eine dieser Kategorien und verbindet sie mit einem Angriff, ist dies laut Facebook Hate Speech. Dabei ist wichtig: Die Religion oder das Land darf man beleidigen, nicht jedoch die Anhänger einer Religion oder die Bürger eines Landes.

Daraus ergibt sich zum Beispiel, dass „Scheiß Christen!“ verboten, aber „Alle Taxifahrer sind Arschlöcher“ erlaubt ist. Oder dass „Deutsche sind Abschaum“ gelöscht wird, aber „Deutschland ist Abschaum“ erlaubt ist.

Die geschützten Kategorien lassen sich zudem verknüpfen. Verknüpft man zwei geschützte Kategorien (PC), bleiben sie geschützte Kategorien. Verknüpft man eine geschützte Kategorie mit einer ungeschützten Kategorie (NPC), wird daraus eine ungeschützte Kategorie. Im Beispiel von Facebooks Schulungsunterlagen sind „Irische Frauen“ geschützt, aber „Irische Teenager“ nicht. Man darf bei Facebook also nicht sagen: „Norwegische Männer sind der letzte Dreck“, es ist aber erlaubt zu sagen: „Norwegische Bäcker sind der letzte Dreck“.

Hier werden Beispiele genannt, welche Kombinationen erlaubt sind. „Franzosen sind Alkoholiker“ wird gelöscht, aber „Asylanten raus“ oder „Ich hasse Flüchtlinge“ sind erlaubt. Die SZ schreibt, dass Flüchtlinge (Migrants / Refugees) in Reaktion auf die deutsche Hate-Speech-Debatte als „teilweise geschützte Kategorie“ eingestuft sind. So erklärt sich, dass hier die Härte der Beleidigung in die Löschentscheidung einfließt und ein gewisser Grad an Hetze gegen diese Gruppe erlaubt ist.

Diese Regel sagt aus, dass man Privatpersonen (im Gegensatz zu Personen des öffentlichen Lebens) nicht aufgrund ihres Aussehens oder Persönlichkeit in eine Rangliste stecken darf. A ist schöner als B ist schöner als C. Auch nicht erlaubt ist, Bilder von Privatpersonen zu posten und zu fragen: „Wer ist intelligenter/schöner – A oder B?“

Facebook unterscheidet zwischen Privatpersonen und Personen des öffentlichen Lebens (public figures). Als Personen des öffentlichen Lebens zählen bei Facebook:

Politiker ab Bürgermeister aufwärts,

Menschen, die mehr als 100.000 Fans/Follower in einem Social Media Account haben,

Menschen, die bei einem Sender oder einer Publikation angestellt sind, um öffentlich zu schreiben oder sprechen,

Menschen, die mit Namen im Titel oder Untertitel in mindestens fünf Artikeln oder anderen Medienstücken in den letzten zwei Jahren genannt wurden.

In diesem Regelausschnitt geht es laut SZ um Fotos von Selbstverletzungen. Diese sind erlaubt, wenn nicht zum Nachahmen aufgerufen wird.

Verboten ist hingegen, Menschen in verletzender Weise beim Urinieren, Menstruieren, Erbrechen oder Koten zu zeigen. Hierbei ist jedoch die jeweilige Bildunterschrift und der Kontext wichtig.

Diese Fotos hingegen sind erlaubt, da kein verletzender Text gegeben ist. Diese Einordnung reicht nach deutschem Recht allerdings nicht: Die Frage ist hier natürlich auch, ob das „Recht am eigenen Bild“ gewahrt wird. Poste ich selber ein Bild, wie ich pinkelnd am Straßenrand stehe – oder postet dies ein Passant ohne mein Wissen. Facebook bietet hier die Funktion, dass man Bilder melden kann, die einen selbst zeigen, die man aber nicht selbst hochgeladen hat.

Bei Personen des öffentlichen Lebens hingegen darf immer gezeigt werden, wenn sie öffentlich menstruieren, urinieren und so weiter. Vorausgesetzt natürlich, dass nirgendwo ein Geschlechtsteil sichtbar ist.

Es wäre natürlich interessant, wenn das gesamte Regelwerk bekannt würde, weil dies mehr Transparenz in das marktbeherrschende soziale Netzwerk bringt. Wie immer freuen wir uns über Einsendungen von Dokumenten über die üblichen Kanäle.

Update:

Ich habe die Überschrift von Facebooks Löschregeln: „Asylanten raus“ ist erlaubt, „Christen raus“ ist verboten auf Facebooks Löschregeln: „Asylanten raus“ ist erlaubt, „Muslime raus“ ist verboten geändert. Der erste Titel konnte den Eindruck erwecken, dass Facebook in eine bestimmte politische Richtung zensiert. Das geht aber aus den hier gezeigten Leitfäden gerade nicht hervor.