Sur Slate.com, la réalistrice et juriste, diplômée de l’école de droit de Yale, Rebecca Wexler nous rappelle que les programmes dont on ne peut accéder au code sont partout : dans les ascenseurs, dans les avions, dans les appareils médicaux, etc. L’impossibilité à y accéder à des conséquences directes sur la société et la politique… Ils peuvent menacer notre vie privée en recueillant des informations sur chacun d’entre nous sans notre consentement. Ils opacifient les critères pour déterminer votre admissibilité à des prestations sociales ou à des services, peuvent nous placer sur des listes noires… Pire encore, ils peuvent nous envoyer en prison.

C’est ce qui est en train d’arriver à Martell Chubbs en Californie, accusé récemment de meurtre dans une affaire qui remonte à 1977, inculpé parce que son ADN correspondrait à l’ADN trouvé sur place, selon les bases de données génétiques de la police américaine. Chubbs a donc demandé à inspecter le code du logiciel qui a fait la corrélation entre son ADN et celui recueillit à l’époque afin de constater l’exactitude des résultats. Bien sûr, le constructeur du programme a refusé, faisant valoir le risque encouru par le dévoilement du code de son programme propriétaire. Le tribunal a donc rejetté la demande de l’accusé, laissant la défense libre d’examiner le témoin expert, mais pas l’outil que le témoin invoque. D’autres tribunaux américains ont rendu des décisions semblables.

Pour Rebecca Wexler, ces logiciels propriétaires qui permettent de croiser des analyses ADN, des empreintes digitales, des visages dans des bases de données de reconnaissance faciale… utilisés dans un nombre croissant de dispositifs d’enquête posent un problème de confiance s’ils peuvent être utilisés pour trouver des criminels mais pas pour les disculper, s’ils peuvent être utilisés par l’accusation mais pas par la défense. Comme le soulignait déjà Jean-Marc Manach, les expertises et les outils d’expertise de la police scientifique sont loin d’être parfaitement fiables (voir « Quand les « experts » se trompent » et sa suite « ADN : quand les « experts se trompent »). Pourtant, la possibilité d’inspecter les logiciels n’est pas seulement un argument d’égalité de traitement, elle permet aussi à la justice de confirmer la fiabilité des outils qu’elle utilise, comme l’a montré l’analyse d’un alcootest réalisé par la Cour suprême du New Jersey, rapporte Rebecca Wexler.

L’impossibilité pour la défense de contre-interroger les preuves et la manière dont elles sont obtenues est non seulement injuste, mais elle ouvre la voie à une mauvaise science. De tout temps, les experts ont décrit le contre-interrogatoire comme « le meilleur mécanisme juridique jamais inventé pour découvrir la vérité ». Et nombre de contre études contestent la validité scientifique de preuves et de diagnostics établis scientifiquement : études balistiques, corrélation d’empreintes digitales, etc. L’association Projet Innocence souligne fréquemment dans des rapports les condamnations injustifiées liées à une mauvaise science médico-légale et l’Académie des sciences américaine a attribué ces erreurs (.pdf) à un manque d’évaluation par les pairs.

« L’immunité logicielle n’existe pas », rappelle Rebecca Wexler. Les erreurs de programmation peuvent modifier les rapports de vraissemblance de l’ADN d’un facteur 10. Quand des experts ont mis à jour un bug dans un logiciel d’alcootest, la Cour suprême du Minnesota a interdit qu’il puisse servir de preuve dans tout jugement futur.

Le juge fédéral Jed Rakoff a récemment démissionné pour protester contre la Commission nationale sur les sciences médico-légales initiée par la Maison Blanche. Pour lui, si les défendeurs n’ont pas accès à l’information pour établir un contre-interrogatoire, le témoignage de la médecine légale n’est alors rien d’autre « qu’un procès par embuscade ». Or, pour les experts, l’ouverture du code à l’examen public d’autres experts reste le plus sûr moyen de s’assurer de la fiabilité des outils. Pour Rebecca Wexler, seul des outils open-source peuvent permettre de répondre aux exigences de l’appareil judiciaire. Certes, les régulateurs effectuent des tests de validation sur certains outils… Mais ces tests n’ont pas suffit à l’agence de la protection de l’environnement américaine pour constater la fraude de Volkswagen par exemple. La Cour suprême américaine sait depuis longtemps que la transparence des procès contribue à préserver la confiance du public dans l’équité et la légitimité de la justice. Le secret qui couvre les logiciels policiers par exemple jette un doute sur ce processus. Comme nous le disions déjà : peut-on faire reposer des décisions publiques sur des boites noires ?

Guillaume Champeau pour Numerama rapporte qu’un groupe d’experts de l’industrie informatique a demandé via une lettre ouverte (.pdf) au régulateur américain, la Commission fédérale des communications (FCC), d’obliger les constructeurs à rendre leur firmwares de routeurs Wi-Fi open source, contrairement à ce que recommande une nouvelle réglementation en cours d’élaboration par la FCC. Les experts réclament que les logiciels des constructeurs soient open-source et permettent à leurs utilisateurs de les modifier. L’enjeu, qui ne concerne que les firmwares Wi-Fi pour l’instant, est bien sûr assez emblématique, comme le soulignent les experts : « le récent scandale Volkswagen, avec du code informatique non inspecté qui trichait dans les tests d’émissions, démontre que c’est une vraie problématique. » Les décisions qui seront prises par les régulateurs auront assurément des conséquences sur l’évolution de ces questions. Pas sûr cependant qu’ils tranchent dans le bon sens. Nous risquons de continuer à être condamnés par le code.

Hubert Guillaud