Pôle emploi vient de publier plusieurs fiches détaillant le fonctionnement de son algorithme dédié au calcul des allocations chômage. Cette obligation de transparence est toutefois loin d’être respectée par toutes les administrations. Next INpact a une nouvelle fois dû saisir la CADA.

Faute de trouver ces « modes d’emploi », nous avons demandé fin octobre aux Allocations familiales, à Pôle emploi, à la Direction générale des finances publiques et au ministère de l’Éducation nationale de les mettre sur Internet, sur le fondement de la « loi CADA » relative au droit d’accès aux documents administratifs.

L’intérêt de ces dispositions ? Permettre au citoyen d’avoir des explications intelligibles sur le fonctionnement du (ou des) algorithme(s) ayant été utilisé(s) afin de traiter son dossier. En effet, pour les personnes compétentes en informatique, il reste possible de solliciter directement (ou ne serait-ce qu'à titre de complément) l’algorithme lui-même.

Depuis le 7 octobre dernier, en application du « volet Open Data » de la loi Numérique , les administrations d’au moins cinquante agents ou salariés sont tenues de mettre en ligne les « règles » définissant « les principaux traitements algorithmiques utilisés dans l'accomplissement de leurs missions ». Cette obligation prévaut tout du moins dès lors que ces programmes informatiques « fondent des décisions individuelles » : attribution d’aides, calcul de certaines taxes ou impôts, affectations de fonctionnaires, etc.

« Pôle emploi conduit depuis plusieurs mois les travaux nécessaires à cet effet », nous a tout d’abord fait savoir l’établissement public, plus de deux semaines après notre demande CADA. « Ces règles seront en ligne sur pole-emploi.fr, dans une rubrique algorithmes, au plus tard au début du mois de décembre, en particulier pour ce qui concerne les décisions individuelles intervenant dans le cadre de l’allocation d’aide au retour à l’emploi (ARE). »

Hier, l’institution a justement inauguré cette nouvelle rubrique, dans laquelle figure six fiches détaillant les « règles et grandes caractéristiques » des algorithmes intervenant dans les décisions relatives à la principale allocation chômage, l’ARE :

On apprend notamment que Pôle emploi décide « de façon automatique » si une personne peut prétendre (ou non) à l’ARE, sauf si la situation nécessite « un examen particulier ». L’algorithme vérifie si le demandeur remplit les conditions d’attribution de l’aide – lesquelles sont elles-mêmes partiellement énumérées.

Crédits : Pôle emploi

L’établissement public lève ensuite un voile sur les données qu’il utilise pour examiner les dossiers des demandeurs d’emploi. Il s’agit des « données d’identification et des données professionnelles » issues des éléments déclarés à Pôle emploi, des « données et attestations » fournies par les employeurs, les organismes de protection sociale, voire par « d’autres administrations publiques » (à propos desquelles aucun détail n’est donné).

Si l’algorithme en arrive à la conclusion que le chômeur est éligible à l’ARE, sont ensuite déterminés le montant de son allocation journalière, « la durée de l’indemnisation et le point de départ de l’indemnisation », explique Pôle emploi. Là encore, les différents calculs sont détaillés.

Crédits : Pôle emploi

« Ces algorithmes sont la traduction de la réglementation de l’assurance chômage, arrêtée par les partenaires sociaux » prévient néanmoins Pôle emploi (qui nous avait communiqué en début d'année le code source de son calculateur d'aides, en langage Cobol et Java). Pour toute question concernant une situation individuelle, les usagers sont d’ailleurs invités à contacter leur conseiller.

Faute de transparence, des décisions susceptibles d'être annulées

Quant aux Allocations familiales, à la DGFiP et au ministère de l’Éducation nationale, nous avons dû saisir la Commission d’accès aux documents administratifs (CADA), faute de retour de leur part passé un délai d’un mois.

Si aucune sanction n’est prévue pour les administrations qui rechignent à se plier à leurs nouvelles obligations de transparence, le Conseil constitutionnel a adressé en juin dernier une mise en garde très claire à l’attention des pouvoirs publics.

Dès lors qu’une décision est 100 % automatisée (comme dans le cas de l’ARE), l’administration doit obligatoirement :

« Mentionner explicitement » que cette décision été prise sur le fondement d'un algorithme. Communiquer, sur demande, les « principales caractéristiques de mise en œuvre » de l’algorithme. Exclure tout traitement de « données sensibles » (orientation sexuelle, origines ethniques, opinions politiques, etc.). Permettre une voie de recours à la décision en question.

Résultat : faute de transparence, une décision relevant exclusivement d’un algorithme est susceptible d’être annulée par le juge administratif. La loi adaptant le droit français au RGPD précise d’ailleurs que l’absence de « mention explicite » relative au recours à un algorithme sera automatiquement synonyme de « nullité » à compter du 1er juillet 2020 (toujours pour les décisions 100 % automatisées). En attendant, tout citoyen peut saisir la justice, s’il estime que ses droits n’ont pas été respectés.

Bercy réclame davantage de temps

Début décembre, la DGFiP est revenue vers nous, expliquant qu’elle avait « déjà entrepris de publier les règles définissant ses principaux traitements algorithmiques qui fondent des décisions individuelles » – en l’occurrence au sujet de la taxe d’habitation.

Seul hic, Bercy détaille le mode de calcul du fameux prélèvement, sans trop s’avancer sur le fonctionnement de son algorithme. Il n’y a par exemple rien de précisé sur les données traitées, ni même sur le degré d’intervention du programme informatique dans la prise de décision (voir ici). Aux termes de la loi Numérique, ces éléments sont pourtant censés être explicités par les administrations. Nous avons donc maintenu notre demande auprès de la CADA.

La Direction générale des finances publiques nous a en outre promis que l’algorithme de la taxe foncière serait « prochainement publié », « puis progressivement ceux des autres principaux traitements mis en œuvre par la DGFiP, comme le mode de calcul du taux de prélèvement à la source ». L’institution dit avoir besoin de temps pour se conformer à la loi de 2016, au regard du « travail d'analyse et de rédaction » que cela nécessite.