Aux portes d’embarquement des aéroports, à l’entrée des immeubles et jusque dans les supermarchés : les caméras de reconnaissance faciale sont déjà partout aux États-Unis, souvent sans que les citoyens en soient conscients.

Face à ce développement rapide, la Californie a pris au printemps la tête de la fronde contre cette technologie qui inquiète les défenseurs des libertés individuelles. En mai, San Francisco a été la première ville américaine à interdire à la police et à toute autre agence publique l’utilisation de la reconnaissance faciale. Elle a été suivie deux mois plus tard par la municipalité d’Oakland.

Loi inédite

L’État de Californie devrait quant à lui adopter d’ici à la fin de l’été une loi, inédite à l’échelle du pays, interdisant à la police l’usage de caméras corporelles équipées de la reconnaissance faciale, censées améliorer l’identification d’éventuels criminels.

Ces initiatives ont vu le jour sous la pression d’un nombre croissant de citoyens inquiets, dont beaucoup sont issus du monde de la Tech. « Le fait que nous vivons et travaillons en plein cœur de la Silicon Valley fait que nous en comprenons d’autant plus les dangers », justifie Brian Hofer, président de la Commission de la protection de la vie privée de la ville d’Oakland.

Cet assistant juridique de 41 ans est l’un des principaux artisans des ordonnances municipales adoptées à San Francisco. Il est aussi parvenu à convaincre les villes de Richmond et de Berkeley de mettre fin aux contrats passés avec Amazon et Vigilant Solutions, deux compagnies qui fournissent des logiciels de reconnaissance faciale aux services migratoires américains. « S’il y a un domaine au sein duquel l’application de cette technologie peut causer de gros dégâts aujourd’hui, c’est celui de la surveillance policière », estime Brian Hofer.

Les femmes noires discriminées par les algorithmes

Et pour cause : une étude réalisée par des chercheurs de l’université Stanford et du Massachusetts Institute of Technology (MIT) datant de 2018 montre que le taux d’erreur d’identification peut atteindre jusqu’à 34,7 % lorsqu’il s’agit de femmes noires, contre seulement 0,8 % dans le cas d’hommes blancs.

Dans une lettre ouverte publiée en avril, plusieurs dizaines d’universitaires et d’experts travaillant chez Google ou Facebook avaient d’ailleurs demandé au groupe Amazon qu’il cesse de vendre aux forces de l’ordre son outil de reconnaissance faciale Rekognition, estimant que ce dernier contribuerait à la multiplication des discriminations raciales et des erreurs judiciaires dans des populations déjà stigmatisées.

Pas seulement une question de fiabilité

Mais pour certains activistes, le problème de la reconnaissance faciale va bien au-delà de son manque de fiabilité : « Même si les logiciels parvenaient un jour à identifier correctement les gens, cette technologie n’en deviendrait pas plus respectable », estime J. P. Massar, ingénieur en informatique et membre de l’association citoyenne Oakland Privacy. « L’amélioration de la sécurité promise par la police ne peut justifier le déploiement d’un système qui viole à ce point la vie privée. Voulons-nous vraiment d’un monde dans lequel le gouvernement sera capable de traquer le moindre de nos faits et gestes dès que l’on mettra le pied dehors ? Orwell lui-même n’aurait pas pu le concevoir. »

Certains citoyens estiment notamment que cette technologie pourrait les dissuader de se rendre dans des manifestations, de peur d’être identifiés au milieu de la foule. « Dans un pays où un citoyen sur deux a été fiché dans une base de reconnaissance faciale par la police ou le FBI, la lutte pour nos droits peut sembler ardue, admet Steven Renderos, codirecteur de l’organisation californienne Media Justice. Mais la Californie a prouvé qu’il était possible d’obtenir des résultats à l’échelle locale et même auprès de grandes entreprises qui fabriquent ces technologies. »

Sous la pression de l’opinion publique, la compagnie Axon, principal fournisseur de caméras corporelles de la police, s’est ainsi engagée cet été à ne pas intégrer la reconnaissance faciale à ses produits, pour des raisons d’« éthique ».