A tout seigneur, tout honneur. Par un vote quasi-unanime de ses conseillers municipaux, San Francisco est devenue la première ville des Etats-Unis à imposer des limites à la pratique de reconnaissance faciale. « La propension de la technologie de reconnaissance faciale à mettre en danger les libertés civiles surpasse substantiellement ses bénéfices supposés, indique le texte adopté mardi 14 mai. La technologie va exacerber les injustices raciales et menacer notre capacité à vivre libres de la surveillance permanente du gouvernement ».

Les défenseurs de la vie privée, de l’Electronic Frontier Foundation à l’ACLU (association de défense des libertés civiles) avaient fait campagne contre cette technologie – largement utilisée en Chine – qui permet d’identifier les passants dans la rue, les magasins, les aéroports, les stades, et potentiellement les manifestants.

Les forces de l’ordre l’utilisent depuis longtemps pour passer en revue des banques d’images à la recherche de suspects, mais les progrès de l’intelligence artificielle font craindre la généralisation de la pratique. Déjà, certaines chaînes de magasins l’utilisent pour deviner l’âge ou le sexe des consommateurs et analyser leur expression alors qu’ils passent les produits en revue, le but étant de leur diffuser des publicités ou des promotions ciblées.

Potentiel dystopique

De nombreuses compagnies, d’Amazon à FaceFirst et Microsoft, offrent des produits ou services de reconnaissance faciale. Le géant de Seattle a d’ailleurs lui-même appelé le Congrès à réglementer le secteur, au regard de son potentiel dystopique.

La circulaire sur « l’arrêt de la surveillance » adoptée à San Francisco ne s’applique qu’aux services municipaux et à la police – qui a cessé de tester la reconnaissance faciale depuis une vague de protestations en 2017. Elle ne concernera pas le secteur privé ni l’aéroport où la sécurité est du ressort de l’Etat fédéral. Mais elle requiert un processus d’information et de contrôle public pour l’acquisition de technologies de surveillance telles que les lecteurs automatisés de plaques minéralogiques.

La quasi-unanimité des membres du conseil municipal de San Francisco (8 à 1) illustre à quel point la suspicion s’est propagée dans la capitale des technologies. La plateforme de stockage de photos Ever a dû reconnaître qu’elle rentabilisait les photos de famille postées par les usagers sans les en informer explicitement. Elle s’est défendue en expliquant qu’elle ne vend pas directement les informations mais les utilise pour développer son propre algorithme de reconnaissance faciale. Dont elle vend ensuite les services à ses clients.

Pour ne rien manquer de l’actualité économique Cet article est paru dans notre newsletter « La lettre éco ». Si vous êtes abonné au Monde, vous pouvez vous inscrire à cette lettre quotidienne en suivant ce lien. Chaque jour à 12 h 30, vous y retrouverez les informations du Monde et son regard sur l’actualité économique, à travers notamment la chronique « Pertes & profits ».