Il web è un posto meraviglioso, ma talvolta anche abbastanza inquietante. Internet mette a disposizione degli utenti strumenti e tecnologie potenti che, gran parte delle volte, non vengono utilizzati nel migliore dei modi, producendo effetti nocivi per la società e conseguenze pericolose.

Le deep fake news rappresentano una di queste conseguenze, un effetto - neanche tanto collaterale - che porta alla luce il "profondo" livello di sofisticazione di alcuni software disponibili sul mercato e anche quello di opacità dell'informazione prodotta.

Eravate stanchi di sentir parlare di fake news? Ecco, le deep fake ne rappresentano la nuova frontiera e, di certo, non preannunciano nulla di buono.

Di cosa si tratta?

Semplice: apporre il volto di qualcuno su quello di qualcun altro per fargli dire tutto ciò che vogliamo. Questo è possibile e per capire meglio quello di cui stiamo parlando, diamo un'occhiata a questo video.

Sembra assurdo, ma Obama non ha mai pronunciato queste parole. Si tratta di un esperimento realizzato da Jordan Peele, in collaborazione con Buzzfeed, che ha utilizzato alcuni software già disponibili sul mercato come Fakeapp.

Per ora l'intelligenza artificiale è stata utilizzata per creare deep fake nell'ambito della satira e del porno, ma - soprattutto in vista delle prossime elezioni americane - tutto fa pensare ad uno sfruttamento di questo metodo per produrre disinformazione politica e propagandistica.

Come funziona?

I video deep fake, come ha spiegato The Conversation, si avvalgono di un sistema di reti neurali adibite al deep learning, cioè l'apprendimento automatico basato su vari livelli di rappresentazione. Lo studio si pone l'obiettivo di studiare i movimenti facciali di una persona e riportarli sul volto di un'altra persona per far coincidere le espressioni e quindi l'immagine.

Per fare ciò, è necessario un database molto ampio in cui rintracciare foto di entrambi i volti. Ovviamente, maggiore è il numero di immagini di riferimento e più risulterà realistico il prodotto finale.

Implicazioni sociali

Esattamente come le fake news, anche le deep fake esasperano quelle che sono le tendenze comportamentali degli utenti, sfruttando convinzioni errate e riflessioni impressionistiche. Le persone che hanno opinioni estremamente polarizzate su alcuni argomenti e su personaggi televisivi o politici sono più propense a cadere nell'errore del bias di conferma, cioè la ricerca di informazioni che vadano a confermare le proprie tesi.

Se un utente è convinto di una notizia e, in rete, incontra contenuti che rafforzano la propria tesi, difficilmente si preoccuperà di testare l'attendibilità di ciò di cui sta fruendo, anzi interpreterà quel contenuto come una conferma di ciò che già sapeva e potenzierà il suo pensiero come un virus.

Come smascherare un deep fake?

Niente paura, con un po' d'attenzione anche una deep fake può essere smascherata. Prima di tutto è necessario ribadire che quando ci approcciamo alla fruizione di un contenuto online dobbiamo mettere in moto - se ancora spenta - la nostra coscienza critica digitale, mettere in discussione tutto ciò che vediamo e verificarlo.

Una prima falla nel sistema deep fake riguarda la fissità oculare dei personaggi protagonisti dei video incriminati.

Normalmente, gli esseri umani sbattono gli occhi ogni 2-10 secondi, mentre nei video deep fake raramente il protagonista chiuderà gli occhi. Il motivo è molto semplice: in rete è davvero difficile reperire foto di persone con gli occhi chiusi.

Alcuni ricercatori dell'Università di Albany hanno sviluppato degli algoritmi in grado di tenere traccia dei movimenti oculari nei video, contandoli e identificando precisamente la posizione degli occhi in ogni momento.

Ma la tecnologia è in continua evoluzione e per porre rimedio a questa falla basterebbe trovare il modo di recuperare frame di soggetti con occhi chiusi dai video.

Insomma, la battaglia alle deep fake è appena cominciata e, come sta accadendo per le fake news, non sembra voler cessare a breve. Tutto ciò implica un impegno costante da parte di ricercatori e utenti, più consapevolezza nella fruizione e nella frequentazione della rete e dei social network e una maggiore responsabilità.