« Au vu des performances de l’Intelligence artificielle (IA) faible, l’intelligence artificielle forte ne saurait tarder ». L’assertion est courante, y compris dans les milieux avertis. Est-elle fondée ? Les développements de l’intelligence artificielle faible la métamorphoseront-ils en forte à force de progrès technologiques ? L’IA forte sera-t-elle fille de l’IA faible ? Retour sur ces interrogations avec Jacques Baudron, lecteur attentif d'Usbek & Rica et fondateur d'une entreprise de télécoms.

Parmi les définitions de l’intelligence artificielle (IA), celle qui a ma préférence et qui fera donc référence dans cet article est celle d’un algorithme permettant à une machine de prendre une décision.

On distingue classiquement deux versions : l’IA faible qui est disponible aujourd’hui et l’IA forte que l’on espère pour demain. L’intelligence artificielle faible est celle d’un automate qui ne sait prendre de décision qu’en piochant dans ce qu’il lui a auparavant été inculqué. L’intelligence artificielle forte est celle d’un humain qui sait user de l’émotion pour décider.

Le deep learning ou le renouveau de l'IA faible

L’intelligence artificielle faible a officialisé son renouveau en 2012 avec les spectaculaires performances du « deep learning » en reconnaissance d’images, traduction automatique, conduite autonome ou reconnaissance vocale.

Les résultats de l’intelligence artificielle faible sont incroyables

Les résultats de l’intelligence artificielle faible sont incroyables. Elle est à même de mettre un nom en temps réel sur des visages capturés par de la vidéosurveillance, technique déjà en œuvre en Chine. Elle est capable de modifier une vidéo au gré des mimiques exercées par un opérateur, générant ainsi des « fake videos ». Elle sait aligner des centaines de kilomètres aux commandes d’un véhicule sans manifester le moindre signe de fatigue.

Une image de vidéosurveillance diffusées par la télévision chinoise. Derrière la reconnaissance faciale, on trouve de l'IA faible

La machine décrit les images qu’on lui présente : « Une jeune femme joue au Frisbee dans un parc ». Si de prime abord l’intelligence artificielle faible peut sembler manipuler les concepts, il n’en est rien. Le secret de la reconnaissance se trouve dans la lecture assidue de millions d’images qui permettront d’identifier par exemple un véhicule quel que soit le modèle ou la position.

La machine fait un simple lien entre une suite de pixels et une chaine de caractères

Mais attention : à la différence d’un humain pour qui la notion de véhicule recouvre aussi bien une berline, une familiale, un cabriolet ou tout autre déclinaison, la machine fait un simple lien entre une suite de pixels et une chaîne de caractères. Elle a besoin d’avoir vu tous les modèles dans toutes les positions. Elle ne sait que piocher dans la bibliothèque construite avec ce qu’elle a emmagasiné et se trouvera démunie face à une image inédite.

En pratique, la machine détecte sur une image des suites de pixels qu’elle compare avec celles qu’elle a enregistrées au préalable et en dresse une liste ordonnée en fonction de la probabilité de reconnaissance. La suite de pixels en tête de liste est alors rapprochée de la suite de caractères ASCII associée : « Femme », « Frisbee », « Parc ».

Image réalisée grâce à DeepDream, un programme de vision par ordinateur créé par Google qui utilise un réseau neuronal convolutif pour trouver et renforcer des structures dans des images

Mais la belle mécanique peut être leurrée par un simple bruit imperceptible à l’humain mais contenant une chaîne fortement associée à un objet autre. Une phrase entendue par l’humain n’aura pas la même interprétation par la machine pour peu qu’un signal sonore très précis dissimulé dans du bruit annonce un message différent.

Même si une telle description de l’intelligence artificielle faible porte moins à rêver que ce que laissait espérer des termes comme neurones artificiels, elle ne retire rien aux incroyables performances de l’outil.

L’intelligence artificielle forte, c'est la nôtre

L’intelligence artificielle forte est celle de l’humain. Elle est dotée de conscience. Elle est capable d’émotion. L’intelligence artificielle suscite l’espoir d’horizons nouveaux et la peur d’un ascendant sur l’homme. L’apparition des premiers ordinateurs a stimulé les interrogations sur la cohabitation de l’humain avec des machines dans des œuvres de science-fiction et alerte sur la nécessité de prévoir un bouton « STOP » pour se prémunir des dérives.

La compréhension de l’intelligence humaine est un préalable à la mise en œuvre de l’intelligence artificielle forte. On est encore loin de l'IA du film Her, dont le protagoniste tombe amoureux.

Cela dit, il y a encore du travail. La compréhension de l’intelligence humaine est un préalable à la mise en œuvre de l’intelligence artificielle forte. Il faut comprendre d’où vient l’émotion, la conscience de soi et de l’environnement. Or, si l'on ne comprend pas encore d'où viennent ces caractéristiques chez l’homme et ses cent milliards de neurones, la simulation du ver Caenorhabditis elegans et de ses 302 neurones ne nous a pas non plus ouvert les clés de la conscience, ce qui semblerait indiquer que la puissance de calcul n’est pas l'obstacle majeur.

Ce n’est pas demain que « Je pense donc je suis » succèdera à « Hello world »

Les réflexions sur la conscience ne datent pas d’hier. Depuis des siècles science et religion en font la quête mais la connaissance du sujet ne s’est pas réellement étoffée : ce n’est pas demain que « je pense donc je suis » succèdera à « hello world ». Notons qu’à défaut de pénétrer la nature de la conscience les progrès des neurosciences permettent maintenant de localiser les flux d’information entre les différentes zones du cerveau.

À l’inverse de l’IA faible, l’IA forte laisse la part belle au rêve mais aucune voie ne semble se présenter. Certains espèrent donc que les spectaculaires performances de l’IA faible la transformeront en IA forte.

Souvenir vs mémoire

La plateforme supportant l’intelligence artificielle faible est construite autour des concepts de mémoire et de processeur. Chez l’humain les notions sont sensiblement différentes. En schématisant de manière simplificatrice, on peut remplacer « mémoire » par « souvenir » et « processeur » par « prise de décision ». Et la différence est de taille.

Côté souvenirs, le jeu se fait entre mémorisation, oubli et reconstruction. Les scientifiques Blake A. Richards et Paul W. Frankland ont résumé ces mécanismes dans Neuron. La mémoire arrange par elle-même ses souvenirs. Il nous faut oublier pour ne pas être submergé par les détails. Bien plus : les souvenirs se reconstruisent et n’hésitent pas à se refaçonner à chaque « accès mémoire » en associant le réel et l’imaginaire au gré de nos émotions.

Inspiré d'une oeuvre de Philip K. Dick, Total Recall traite de la question des souvenirs implantés

Un témoin des attentats d’Oklahoma City en 1995 a ainsi provoqué de longues recherches d’un deuxième suspect qui s'est avéré totalement imaginaire. Un peu comme une pâte à modeler, nos souvenirs se remodèlent au fil de la sollicitation de notre mémoire.

Une mémoire trop idéale est une maladie connue sous le nom d’hypermnésie. La mémoire submergée par un excès de détails ne sait plus analyser. Paradoxalement, elle ne sait plus reconnaitre un visage dès lors que des écarts à peine discernables voire un simple changement d’expression troublent la perception. Elle ne sait plus trier les informations pour se forger un jugement.

L’humain a besoin d’une mémoire imparfaite qui fasse des erreurs à l’opposé de ce que peut offrir une mémoire électronique.

Émotion vs décision

Les circuits de la prise de décision intriguent depuis toujours les philosophes. Aujourd’hui, on considère que l’émotion y joue un rôle considérable. Probablement parce qu’elle permet une rapidité d’exécution en se passant de longs passages en revue des différents choix pour les jauger. La survie face à un prédateur se repose sur des sensations construites par l’expérience.

Descartes considérait qu’une bonne décision ne pouvait se prendre qu’en faisant abstraction des émotions. Les travaux réalisés depuis montrent le contraire. Le matériel permettant la prise de décision est-il à même de prendre en compte les émotions ? On peut en douter.

Pour Penrose, l’émotion n’est pas soluble dans les algorithmes

Roger Penrose, physicien aux multiples centres d’intérêt, binôme de Stephen Hawking lors des travaux sur les trous noirs et l’origine de l’univers, s’est penché sur la capacité d’un ordinateur d’intégrer sentiments, émotions et conscience dans ces raisonnements. On peut retrouver ses réflexions dans L'Esprit, l'ordinateur et les lois de la physique paru en 1992 puis en 1995 dans Les ombres de l’esprit. Pour lui, pas de doute : l’émotion n’est pas soluble dans les algorithmes. La pensée consciente est irréductible au calcul.

Pas d'émotion pour les robots

L’humain a besoin d’intégrer les émotions dans ses prises de décision et les processeurs électroniques en sont dans l’incapacité.

L'IA forte ne sera pas la fille de l'IA faible

L’architecture des machines à la base de l’IA faible est faite d’électronique, de mémoire et de processeurs, entre autres. L’IA forte demande une mémoire « imparfaite » qui modifie les informations à chaque lecture en fonction des émotions de l’instant, l’IA forte ne sait prendre de décision qu’avec un processeur capable d’intégrer l’émotion.

La logique électronique restera fondamentalement à l’opposé de la logique émotionnelle

Dit autrement : l’IA faible ne pourra déboucher sur l’IA forte que quand elle intègrera… l’émotion qui est la définition même de l’IA forte. Un système électronique construit suivant les préceptes d’Alan Turing ne peut pas offrir l’émotion, pas plus que les très ingénieux mécanismes d’apprentissage de type deep learning. Même avec une puissance dopée par l’utilisation de technologies en devenir comme les calculateurs quantiques, la logique électronique restera fondamentalement à l’opposé de la logique émotionnelle.

SUR LE MÊME SUJET :

> IA superintelligente : un risque faible mais « cataclysmique »

> Faut-il avoir peur de l'intelligence artificielle ?

> « La machine n'a pas la moindre idée de la complexité du langage »

> « L'intelligence artificielle, ça peut aussi être très fun ! »

Image à la une : extrait du film Artifical Intelligence : AI, de Steven Spielberg ©Warner Bros