Als je op Facebook zet: „John, ik ga je vermoorden”, dan mag dat blijven staan. Maar als je zegt: „John, ik ga je vermoorden en ik heb het perfecte mes om dat mee te doen,” dan wordt het volgens de censuurregels van het sociale-mediabedrijf verwijderd. Oproepen tot geweld tegen Donald Trump mag niet, „Schop een roodharige” mag wel.

Als de interne censuurrichtlijnen, uitgelekt via The Guardian, iets laten zien is het wel de willekeur van de regels die moderatoren van sociale netwerk moeten uitvoeren, en de grote hoeveelheden grijze gebieden waarin ze zich moeten begeven. Facebook hield deze regels altijd grotendeels geheim. Naar eigen zeggen om te voorkomen dat mensen dan met trucs om ze heen zouden werken.

De inhoud van de gelekte documenten toont ook de worsteling van het Amerikaanse bedrijf met de steeds groter wordende mediamacht die het bezit. Wereldwijd brengen de 2 miljard actieve gebruikers gemiddeld 50 minuten per dag door op Facebook. Veel mensen besteden op een dag minder tijd aan eten dan aan Facebooken. Bij zo’n grote invloed op de tijdsbesteding van zoveel mensen hoort ook de verantwoordelijkheid voor het beheren van de omgeving waar ze al die tijd doorbrengen.

Overheden eisen dat Facebook optreedt

Kwam Facebook jarenlang weg met het verweer dat het onmogelijk alle berichten van alle gebruikers kon controleren; nu kantelt die houding. Niet in de laatste plaats omdat overheden steeds nadrukkelijker van Facebook eisen dat het optreedt tegen illegale inhoud zoals bedreigingen, geweld of nepnieuws. Maar hóe controleer je de berichten van 2 miljard mensen?

Lees ook de column van Marc Hijink over de geheimen van de Facebook-bijbel

Facebook leert het met vallen en opstaan. In 2016 ontstond bijvoorbeeld ophef nadat Facebook een post verwijderde van een iconische World Press Photo uit 1972 waarop een Vietnamees meisje staat afgebeeld dat slachtoffer is van een napalmaanval. Het meisje staat naakt op de foto, dus dat was ondanks de journalistieke waarde van het bericht de reden om het te verwijderen. In andere gevallen trad Facebook juist te laat of helemaal niet op. De laatste maanden kwam Facebook in het nieuws omdat op het platform live (zelf-)moorden en verkrachtingen werden uitgezonden door gebruikers.

Duidelijk is: hoe de medewerkers van Facebook handelen en wat ze in hun algoritmes programmeren om inhoud te sorteren, beïnvloedt de informatievoorziening van 2 miljard wereldburgers. Na het lek in The Guardian zijn de richtlijnen iets transparanter, maar het toont ook eens te meer dat Facebook grote (en ongecontroleerde) macht heeft over wat wel en niet gepubliceerd wordt op het platform.

Democratisch vaststellen van censuurregels

Bij topman Mark Zuckerberg lijkt dat besef ook steeds beter door te dringen. Hij kondigde eerder dit jaar aan dat Facebook 3.000 extra mensen in dienst gaat nemen om het moderatieproces sneller en beter te laten verlopen. In februari publiceerde hij bovendien een groot manifest over de toekomst van Facebook waarin hij uitgebreid ingaat op het probleem van censuur.

Volgens Zuckerberg zal er altijd een spanningsveld blijven tussen wat de één wel acceptabel vindt, en de ander niet. Hij hintte op een „grootschalig democratisch proces” waar Facebook aan werkt om de regels per land op te stellen.

Lees ook: Werk van moderator is loodzwaar, velen stoppen

Zijn idee is om iedereen op Facebook opties te geven over of men zelf naaktheid, geweld, godslastering wil zien in zijn of haar tijdlijn. Door gebruikers dat periodiek te vragen, ontstaan standaarden voor landen. Voor mensen die geen keuze maken, wordt dan de standaard van hun land het uitgangspunt. „Net als bij een referendum”, schreef Zuckerberg. Op die manier moet het vaststellen van de censuurregels democratischer worden.

Hoe dan ook blijkt dat Facebook steeds nadrukkelijker moet navigeren tussen culturele verschillen, nationale wetten en de eigen commerciële belangen. Dat is bepaald geen kleine opgave, signaleerde Zuckerberg in zijn manifest, die daarvoor zelfs Abraham Lincoln citeerde: „The occasion is piled high with difficulty, and we must rise with the occasion. As our case is new, so we must think anew, act anew.” Nieuwe tijden zorgen voor nieuwe problemen die net zulke nieuwe oplossingen behoeven. Dat blijkt door het lek van The Guardian eens te meer.

Een versie van dit artikel verscheen ook in NRC Handelsblad van 23 mei 2017