Alla base di ogni auto a guida autonoma c'è un software di intelligenza artificiale che si interfaccia con una serie di componenti per capire come comportarsi in maniera (per l'appunto) autonoma in tutte le circostanze. Sebbene l'IA possa rendere la guida su strada estremamente più sicura rispetto a quella praticata dagli autisti in carne ed ossa, ci sono situazioni in cui l'algoritmo risulta di capacità inferiori rispetto a quelle dell'uomo, e fallisce a dir poco clamorosamente.

Allo stato attuale è importante capire soprattutto i limiti delle auto a guida autonoma, e non solamente soffermarci su quello che riescono a fare. Ed è questo il senso del video dell'artista britannico James Bridle, che ha illustrato i limiti della conoscenza priva di contesto. Un problema che si sentirà molto, secondo l'artista, nell'epoca che ci accingiamo a vivere, quella dell'intelligenza artificiale, e con cui gli sviluppatori dovranno naturalmente fare i conti negli anni a venire.

Una delle prime cose che gli algoritmi di guida autonoma imparano è l'interpretazione dei segnali della strada. L'algoritmo sa che può superare una striscia continua solo quando quella più vicina è tratteggiata, mentre di contro se quella tratteggiata è quella esterna la striscia continua vale come una sorta di muro invalicabile. Seguendo questa regola, è sufficiente realizzare una striscia circolare con questi ultimi criteri, insomma, per intrappolare per sempre un'auto autonoma.

Questo perché gli algoritmi attuali non hanno la capacità di astrazione tipica dell'intelletto umano e si attengono a regole più o meno rigide senza sapere interpretare in profondità tutte le circostanze. Insomma, il problema è sempre il solito: il non sapersi adattare a quello che potremmo definire "l'estro" dell'essere umano, capace di compiere anche atti illogici o, semplicemente, di sbagliare.