Ogni giorno una percentuale significativa dei 2 miliardi di utenti di Facebook clicca sulla voce «segnala post» di un qualsiasi foto, video o testo che ritiene inopportuno, azionando un ingranaggio che coinvolge migliaia di persone a diverse latitudini. Palo Alto dichiara di servirsi di 4.500 “content moderators”, di cui la grande maggioranza è impiegata da società terze, spesso operanti nel sud-est asiatico. Si tratta di un mestiere psicologicamente provante, come dimostra il recente documentario sul tema di Adrian Chen, The Moderators: ai moderatori, spesso non pronti a passare ore al giorno a setacciare contenuti visivamente violenti o pornografici, viene offerto un corso di avviamento professionale di due settimane, unito a una varietà di manuali di norme a cui attenersi. Il Guardian ha messo le mani su oggetti di questo tipo: più di 100 documenti di formazione, grafici e tabulati; ribattezzandoli “Facebook Files”, il quotidiano inglese getta luce per la prima volta su uno dei processi più discussi della contemporaneità, spiegandone la complessità e il ruolo cruciale.

Nel reame di Facebook, fatto di un flusso ininterrotto di milioni di post al minuto, un moderatore dev’essere sempre pronto ad affrontare i contenuti di cui stanno parlando gli utenti (che significa, viste le proporzioni del social network, ciò di cui sta parlando il mondo), e per farlo ha bisogno di linee guida oltremodo precise: lo scorso settembre qualcuno aveva deciso di rimuovere la foto della bambina che scappa dal napalm simbolo della guerra in Vietnam, condivisa dall’autore norvegese Tom Egeland, chiamando una risposta indignata dal primo ministro del Paese nordico e una lettera aperta del quotidiano Aftenposten, che aveva chiesto a Zuckerberg di prendersi le responsabilità del suo ruolo da «editor più potente del mondo».

Come si traccia una linea tra ciò che è pubblicabile e ciò che non è pubblicabile? Nel quotidiano, la prassi è così difficile e dispendiosa che Facebook ha implementato un nuovo strumento, il Single review tool, che aiuta chi filtra i post a fare la scelta giusta. Ciononostante, il Guardian ha appreso che i moderatori si sentono «travolti» dalla mole di foto, video e testi che devono analizzare, di norma in un lasso di tempo di durata inferiore ai dieci secondi. Questo, oltre a tradursi in ricadute sull’ansia e lo stress di queste persone, causa errori frequenti, che a sua volta rendono necessarie linee guida sempre più rigide e specifiche: sul piano del cosiddetto sexual content, ad esempio, Facebook permette ai suoi utenti «baci a bocca aperta» e «simulazioni sessuali tra persone vestite», ma proibisce la pubblicazione di «arte digitale che mostra attività sessuale».

Il lavoro dei moderatori, supervisionato da un team di esperti di diversi temi che comunicano cambiamenti e aggiornamenti delle regole alla manodopera, continua tuttavia a produrre risultati controversi. Pur in questa cornucopia di regole e codici interni, il Guardian ha scoperto una serie di apparenti nonsense: viene fuori che su Facebook, tra le altre cose, è permesso scrivere “per spezzare il collo di una stronza, assicuratevi di applicare tutta la pressione in mezzo alla gola” (non è considerata una minaccia credibile), ma non “qualcuno spari a Trump”, ché il presidente degli Stati Uniti, in quanto carica politica di rilievo internazionale, gode di un livello di protezione particolare; si possono lasciare sui server di Facebook video di determinate morti violente, perché contribuiscono a «creare consapevolezza su questioni come le malattie mentali», così come si può trasmettere in diretta video di tentativi autolesionistici, dal momento che a Palo Alto non vogliono «censurare o punire persone angosciate». Però chiunque abbia più di 100 mila follower su Facebook è considerato una figura pubblica, circostanza che non gli permette di godere della protezione completa riservata ai profili privati.

Tra le altre frasi ammesse, stando ai documenti ottenuti dal Guardian, figurano anche espressioni verbali violente come “la bambina deve controllarsi prima che il papà le spacchi la faccia” e “spero che qualcuno ti uccida”, entrambi enunciati che costituiscono una minaccia generica. Eppure, come si potrebbe immediatamente opinare, esiste sempre un confine definibile tra il generico e lo specifico, tra il goliardico e il minaccioso, tra il pericoloso e l’innocuo? La scommessa di Facebook è quella di tracciare linee dove non è detto sia possibile averne, perché esistono anche casi in cui lecito e illecito coesistono, prevalendo uno sull’altro a seconda della prospettiva di chi guarda: prendete lo scatto condiviso da Heather Whitten, fotografa trentenne dell’Arizona che ha immortalato il marito e uno dei loro figli insieme sotto la doccia, e destinatario di decine di migliaia di condivisioni nelle ultime settimane. Qualcuno ha apprezzato la tenerezza del momento di intimità genitoriale, altri ci hanno visto addirittura «un accenno di pedofilia», chiedendo che la fotografia venisse rimossa senza indugio. Whitten in un’intervista alla Bbc ha dichiarato di essere stata colta di sorpresa dall’ondata di critiche, di essersi sentita addirittura minacciata, e poi ha condensato i suoi pensieri in una frase che contiene moltitudini: «Le persone non dovrebbero poter dire cosa è giusto o sbagliato per gli altri».

Immagini Getty Images