Pour Aurélie Jean, ex-chercheuse au MIT, « le but de ces textes est aussi d’introduire de la discussion ». China Stringer Network / REUTERS

Les professionnels de la collecte des données numériques et de l’intelligence artificielle (IA) seront-ils bientôt invités à prêter serment à la fin de leurs études, comme le font les médecins ? Face aux scandales liés à l’utilisation frauduleuse des données personnelles et à la crise de confiance des utilisateurs, les initiatives se sont multipliées ces derniers mois aux Etats-Unis en faveur d’un Internet plus « juste ».

En France aussi deux propositions viennent d’être rendues publiques pour encadrer les pratiques. La première émane de Data for Good, une association regroupant ingénieurs et scientifiques spécialisés dans la collecte de données. Cette organisation s’est fait connaître en 2017 par ses études confirmant les biais de YouTube en faveur de plusieurs candidats à l’élection présidentielle, dans le cadre du projet Algo Transparency.

Cette fois, l’association a travaillé sur les dilemmes auxquels sont confrontés les professionnels de la donnée. A partir d’un questionnaire en ligne, une quinzaine d’entre eux se sont réunis chaque semaine, au printemps 2018, afin d’élaborer « une charte éthique pour réveiller le sentiment de communauté », explique Soline Ledésert, à l’origine du projet « Serment d’Hippocrate pour Data Scientist ».

Grands principes éthiques

L’autre texte, intitulé « Le serment Holberton-Turing » – du nom de pionniers de l’informatique du XXe siècle –, a été initié par des scientifiques et entrepreneurs franco-américains confrontés à ces questions dans leur travail. « Quand on conçoit un algorithme, on doit élaborer des hypothèses, il faut minimiser les biais, on est confronté à des choix en permanence, explique Aurélie Jean, ex-chercheuse au MIT, aujourd’hui consultante. Nous voulons attirer l’attention sur l’importance de ces choix, afin que chacun se demande avant d’agir s’il ne va pas nuire à quelqu’un. »

Les deux initiatives s’inspirent d’un même modèle : le serment d’Hippocrate, que prêtent les médecins à la fin de leurs études. Comme lui, elles s’adressent aux individus et non aux entreprises ou institutions, et listent une série de grands principes auxquels les professionnels du numérique peuvent adhérer en signant les textes en ligne.

Parmi ces valeurs communes, on trouve l’intégrité scientifique, la transparence de l’information, la non-discrimination des individus ou des groupes, le respect de la vie privée et de la dignité des personnes…

Engager le débat

Le serment Holberton-Turing insiste sur l’« impact » du travail sur la donnée, notamment lorsqu’il crée « de nouvelles conditions qui augmentent l’inégalité économique ou toute autre forme d’inégalité ». Celui de Data for Good s’engage à informer« de façon compréhensible et précise » sur « les finalités » et « les implications potentielles » de l’utilisation des données.

Doit-on limiter la collecte à des finalités bien précises et identifiées en amont ? La formulation suscite des réactions. Pour certains, l’engagement de transparence sur les « finalités » va trop loin et heurte les principes de la démarche scientifique qui, par nature, ne sait pas ce qu’elle va trouver.

Reste à savoir l’accueil que les professionnels feront à ces textes, et leur portée réelle, dans un contexte européen où le règlement général de protection des données (RGPD) impose déjà des contraintes juridiques strictes aux entreprises et aux institutions. Le « serment d’Hippocrate » compte trente-cinq signatures à ce jour, le serment Holberton-Turing une centaine.

Leurs auteurs l’affirment, les deux textes ont aussi pour objectif d’engager le débat et pourront être enrichis dans une logique participative, afin d’évoluer dans le temps en fonction des contributions. « On a vécu une déconnexion des sciences dures et des sciences humaines, affirme Aurélie Jean. Le but de ces textes est également d’introduire de la discussion. » Les auteurs se disent prêts aussi à se rencontrer pour « unir leurs forces ».

« Le Monde » organise dans le cadre du Monde Festival une rencontre sur le thème « Les technologies doivent-elles faire le bien ? », avec Carlo d’Asaro Biondo, de Google Partnerships, l’ancienne ministre de l’économie numérique Fleur Pellerin, Gérard Escher, de l’Ecole polytechnique de Lausanne, et le frère dominicain Eric Salobir. Le débat animé par Sandrine Cassini se tiendra samedi 6 octobre, de 14 heures à 15 h 30, à l’Opéra Bastille (amphithéâtre). Réservation en ligne.

Revivez le Monde Festival 2018 sur le thème « Aimer ! » Aimer ! C’était le thème de la 5e édition du Monde Festival qui s’est déroulée du 5 au 7 octobre à Paris. Revivez les meilleurs moments en vidéo, mais aussi en photos.