La civiltà avanza aumentando il numero delle operazioni importanti che possiamo eseguire senza pensarci

Alfred North Whitehead, 1911

Tutto ha inizio con un video di Nick Foster, già capo dell’Unità di ricerca e sviluppo di Google, dal titolo The Selfish Ledger. Nel 2016 il video era stato creato a uso interno per spiegare le potenzialità derivanti dall’utilizzo dei big data per influenzare il comportamento umano. Il video è uno strano misto di epigenetica e thatcherismo tecnologico, per un totale di 8 minuti e 30 secondi di cielo stellato e tramonti che si succedono al ritmo di una musica ipnotica che sembra un carillon, mentre la voce narrante scandisce l’immagine del nostro futuro per come lo immaginano a Silicon Valley.

Il video per certi versi è semplice.

Inizia con un richiamo al lavoro di Jean-Baptiste Lamarck. In Philosophie zoologique (1809), Lamarck proponeva la prima teoria dell’evoluzione in base alla quale processo di modificazione degli organismi dipende dall’influenza delle condizioni ambientali. La voce narrante spiega che al centro della teoria di Lamarck è una sorta di adaptive force in base alla quale «le esperienze di un organismo durante la propria esistenza ne modificano il codice interno e nel momento della riproduzione questo codice interno modificato viene trasmesso alla successiva generazione» (0:52). Per quanto, continua la voce narrante, questa teoria sia stata rapidamente superata dalla teoria dell’evoluzione di Darwin, oggi Lamarck sta trovando dimora in luoghi inaspettati. Per Google, l’insieme dei nostri dati può essere interpretato come una versione codificata di noi stessi che viene modificata continuamente in base alle nostre azioni. Ed è qui il secondo punto, perché Google descrive l’insieme dei nostri dati come un ledger, una specie di registro che contiene tutte le informazioni necessarie per descrivere chi siamo. Tornando alla biologia, Foster richiama la figura di Richard Dawkins, che nel 1976 pubblica Il gene egoista. Per Dawkins, la teoria dell’evoluzione andrebbe analizzata dal punto di vista del gene – non dell’individuo. In base a questa lettura, «il motore che guida l’evoluzione non è l’individuo ma il gene» (2:52). In altre parole, «l’organismo individuale è una specie di contenitore transitorio del gene, una macchina pensata per consentire la sopravvivenza del gene».

E qui è il terzo punto, perché «i principi di progettazione incentrati sull’utente hanno dominato il mondo dell’informatica per molti decenni, ma cosa avverrebbe se guardassimo le cose in modo diverso? Cosa accadrebbe se il registro dei nostri dati avesse una volizione o uno scopo piuttosto che semplicemente agire come punto di riferimento storico? Cosa accadrebbe se ci concentrassimo sulla creazione di un registro più ricco introducendo più fonti di informazione? E se pensassimo a noi stessi non come proprietari di queste informazioni, ma come contenitori transitori o custodi del nostro registro di dati?» (3:02).

Prima di muovere a un rosso tramonto pervaso dal canto dei grilli notturni, il gene si trasforma in una specie di libro contabile chiamato ledger che altro non è che l’insieme dei dati che descrive la nostra vita. Questo registro ora esiste nella descrizione di Foster come dotato di vita propria e ci cammina accanto, mentre noi ne diveniamo i custodi transitori. In questo senso, la tecnologia non è più di supporto alla nostra vita ma noi siamo di supporto a lei, e Google si propone di ottimizzarne gli obiettivi presentandosi come l’organizzazione responsabile «di offrire obiettivi raggiungibili per il registro di ciascun utente». Poiché dare un significato univoco a ciò che è bene per l’umanità è così complesso, gli obiettivi di ciascuno dovrebbero avere a che fare con la salute o con l’ambiente, insomma riflettere i valori di Google come organizzazione (3:25). Di principio, sarà l’utente a scegliere tra le opzioni dategli dal registro. Nel momento in cui l’idea di un registro orientato a obiettivi condivisibili diventerà più appetibile, sarà direttamente il ledger a prendere le decisioni. Nel tempo, la capacità di disegnare uno strumento tagliato sulla base del gusto estetico dell’utente consentirà al ledger di modificare il comportamento umano.

E giungiamo all’ultima parte. I dati degli utenti, continua Foster, hanno l’abilità di sopravvivere la nostra vita biologica, esattamente come i codici genetici. In questo senso, guardare al registro di dati che descrive la storia umana attraverso una lente lamarckiana permette ai nuovi utenti di «colmare le lacune nelle sue conoscenze e perfezionare il modello del comportamento umano». È quindi «possibile che i nuovi utenti traggano beneficio dai comportamenti e dalle decisioni della precedente generazione». Non solo, ma è possibile darsi conto finalmente delle cause di fenomeni complessi come la povertà, la depressione o la malattia (6:28). La parte finale del video è una esplicita comparazione tra la pratica di behavior sequencing riferita al DNA e quella sorta di behavioral sequencing che potrebbe essere reso possibile dall’analisi di milioni di dati. In poche parole, l’appropriazione gratuita e continua dei dati relativi alla vita privata di milioni di utenti consente di studiare i patterns del comportamento umano e di «sequenziarlo», sino a fare «previsioni sempre più accurate su decisioni e comportamenti futuri». In buona sostanza, il selfish ledger descrive una specie di gene che si rigenera continuamente e che sarà in grado «non solo di registrare il nostro comportamento ma di indirizzarlo verso i risultati desiderati» (7:45). Trasformati finalmente gli utenti in meri contenitori dei dati del nostro comportamento, il selfish ledger può decidere per noi e modificare il nostro comportamento per il nostro bene, per il bene delle generazioni future e per il bene della specie umana (8: 30).

È evidente che questo video è stato accolto con inquietudine.

Raggiunto da The Verge, che per primo ne ha scritto, Google ha risposto con questa frase: «Capiamo che questo è inquietante – è stato progettato per esserlo. Si tratta di un esperimento concettuale portato avanti anni fa dal team di progettazione che utilizzava una tecnica nota come “design speculativo” per esplorare idee scomode e concetti al fine di provocare discussione e dibattito. Non si riferisce a prodotti attuali o futuri».

Il fatto è che questo video non è un semplice esperimento concettuale, ma andrebbe preso altresì come il sintomo del complesso di influenze teoriche e filosofiche che pervadono Silicon Valley e da cui trapela il fascino della sua discreta utopia di ingegneria sociale.