Rekognition, il famigerato sistema di riconoscimento facciale di Amazon, già in dotazione a diverse forze di Polizia statunitensi e fonte di dibattito negli USA, ha fallito nuovamente. La ACLU, una delle più importanti organizzazioni non profit statunitensi per i diritti civili, da sempre schierata contro l’uso di tale tecnologia, ha effettuato un test per dimostrarne l’inaffidabilità. Il sistema infatti ha scambiato ben 26 tra politici e legislatori statunitensi per altrettanti criminali conclamati, già presenti nei database della Polizia.

Questo in realtà è già il secondo, catastrofico esperimento di verifica a cui viene sottoposto il sistema Amazon. La prima volta, qualche tempo fa, scambiò 28 dei 435 membri del Congresso per altrettanti delinquenti, sempre pescati dai database delle forze dell’ordine, raggiungendo il picco soprattutto per quanto riguarda donne e uomini di colore che, secondo gli esperti, sono quelli che maggiormente confondono i sistemi di riconoscimento facciale.

Questa volta invece il test ha riguardato 120 immagini di politici californiano, comparate dal sistema a un database di 25mila criminali. I 26 falsi positivi prodotti corrispondono al 20%, una percentuale troppo elevata dunque per sostenere che il sistema sia affidabile.

Dal canto suo, ‎Amazon ha cercato di confutare il test tramite un post sul proprio blog ufficiale, dove rigetta la prova e riafferma l’affidabilità della sua tecnologia biometrica, sostenendo che durante il test il software non fosse stato impostato su una soglia di affidabilità del 99%, come consigliato anche nella guida ufficiale per gli sviluppatori, ma su una inferiore.

Al di là dell’affidabilità del singolo test, quello dell’implementazione dei sistemi di riconsocimento facciale per la pubblica sicurezza resta un grave problema. Oltre alle legittime preoccupazioni sul corretto utilizzo di un tale strumento, che potrebbe servire anche per controllare e schedare minoranze e oppositori politici, resta il fatto che, mentre da un lato tale tecnologia si sta diffondendo sempre più in aeroporti e altre strutture pubbliche, la sua effettiva affidabilità non è mai stata dimostrata in maniera inequivocabile.