La loi pour une République numérique du 7 octobre 2016 a confié à la CNIL la mission de conduire une réflexion sur les enjeux éthiques et les questions de société soulevés par l’évolution des technologies numériques. La CNIL a choisi d’y répondre rapidement en initiant un cycle de débats publics, ateliers ou rencontres.

Les algorithmes, un thème nécessaire…

En 2017, cette réflexion portera sur les algorithmes à l’heure de l’intelligence artificielle. En effet, ceux-ci occupent dans nos vies une place importante, bien qu’invisible. Résultats de requêtes sur un moteur de recherche, ordres financiers passés par des robots sur les marchés, diagnostics médicaux automatiques, affectation des étudiants à l’Université : dans tous ces domaines, des algorithmes sont à l’œuvre. Ces derniers mois, le sujet des algorithmes s’est invité dans le débat public et a suscité une forte attention médiatique.

… et des questions complexes

S’agit-il d’une nouvelle révolution industrielle, ou d’un simple moyen d’améliorer la productivité ?

Les algorithmes sont-ils les nouveaux décideurs ?

Ont-ils pour effet de nous enfermer dans une bulle informationnelle, mettant en danger ouverture culturelle et pluralisme démocratique ?

Sont-ils au contraire un moyen d’accéder à des idées, contenus, données ou personnes inaccessibles ou invisibles jusqu’alors ?

Quelle transparence à l’ère des algorithmes : comment concilier transparence et propriété intellectuelle ?

Faut-il repenser, face aux progrès de l’intelligence artificielle, la responsabilité des acteurs publics et privés ?

Comment construire le libre-arbitre dans un monde « algorithmé » ?

Face à ces interrogations, des réactions diverses et souvent passionnées, entre enthousiasme, fascination, inquiétude et contestations se font jour. Les progrès récents de l’intelligence artificielle et du machine learning renforcent encore l’ampleur des défis posés. Faire des algorithmes l’objet d’un vaste débat public pour faire progresser la connaissance et la réflexion par la société civile s’impose donc comme une nécessité.

Les Français et les algorithmes : notoriété et perception

D’après un sondage mené par l’IFOP pour la CNIL en janvier 2017, les algorithmes sont présents dans l’esprit des Français mais de façon assez confuse. Si 83 % des Français ont déjà entendu parler des algorithmes, ils sont plus de la moitié à ne pas savoir précisément de quoi il s’agit (52%). Leur présence est déjà jugée massive dans la vie de tous les jours par 80% des Français qui considèrent, à 65% que cette dynamique va encore s’accentuer dans les années qui viennent.

Concernant l’opinion sur les algorithmes, une courte majorité (53%) estime qu’ils sont plutôt sources d’erreur contre 47 % qui pensent qu’ils sont fiables. Mais, la confiance s’élève à mesure que le niveau de connaissance sur les algorithmes progresse. Un effort de pédagogie et de transparence peut donc contribuer à renforcer la confiance.

Sous un angle marketing, 57% des Français pensent que les algorithmes limitent l’étendue des choix proposés. Chez les plus jeunes, la tendance s’inverse, puisque 53% des moins de 35 et 56% des 18-24 ans mettent plutôt en avant le fait que les algorithmes proposent plus de choix.

Enfin, c’est sous l’angle de la perception citoyenne que l’opinion est la plus tranchée en fonction de l’âge. Si 2/3 des Français (64%) considèrent que les algorithmes représentent plutôt une menace en raison de l’accumulation de données personnelles sur les choix, les goûts et les comportements, les 18-24 ans inversent cette tendance nettement affirmée puisque 51% estiment au contraire que les algorithmes représentent une opportunité.

Un débat public décentralisé, initié par la CNIL

Le rôle de la CNIL consiste à initier un processus de discussion collectif que feront vivre tous ceux – institutions publiques, société civile, entreprises – qui souhaitent y prendre part en organisant des débats et manifestations multiformes. La CNIL assurera la coordination et la cohérence de ces diverses manifestations.

Les organismes souhaitant prendre part à cette initiative peuvent se rapprocher de la CNIL.

Voir la liste des partenaires

Quelle restitution finale ?

À l’automne 2017, la CNIL rendra publique la synthèse des échanges et des contributions. Il s’agira d’établir une cartographie de l’état du débat public et un panorama des défis et enjeux. Des pistes ou propositions pour accompagner le développement des algorithmes dans un cadre éthique pourraient faire par la suite l’objet d’arbitrages par les pouvoirs publics.