Yuval Noah Harari, docteur en Histoire, enseigne dans le département d’histoire de l’Université hébraïque de Jérusalem. Son précédent livre Sapiens, une brève histoire de l’humanité, a été un best-seller mondial. A l'automne 2017, il avait accepté de répondre par mail aux questions que Sciences et Avenir lui avait fait parvenir et qui ont été publiées en partie dans le Hors Série (octobre-novembre 2017) « 9 Révolutions scientifiques », sous le titre « La révolution de l’intelligence artificielle ». Nous republions cet entretien à l'occasion de la sortie en librairie de son nouvel ouvrage "21 leçons pour le XXIe siècle" (édition Albin Michel).



Sciences et Avenir : A la fin de votre livre Homo Deus, vous invitez les lecteurs à réfléchir au fait que "la science converge vers un dogme universel suivant lequel les organismes sont des algorithmes, et la vie se réduit à un traitement de données. Est-ce cela LA nouvelle révolution scientifique que vous nommez "dataïsme" ? Et s'applique-t-elle à tout l’Univers ?

Yuval Noah Harari : Le dataïsme est la croyance selon laquelle l'univers tout entier ne consiste qu’en flux de données ; et un phénomène, quel qu’il soit, en une manière de traiter ces données. Dans cette optique, une tomate et un humain ne sont que des mécanismes de traitement différents. De même pour le communisme et le capitalisme. La seule chose qui les distingue radicalement c’est que le premier s’appuie sur un système de traitement de données centralisé alors que le second fait appel à un système distribué.

Vous êtes plutôt Einstein ou Darwin ?... Les révolutions scientifiques (et les révolutionnaires qui vont avec), le HS de @Sciences_Avenir pic.twitter.com/yHwJCwvpFk — olivier lascar (@olascar) 20 novembre 2017

Pour le dataïsme, ce que nous appelons en langage courant sentiments et désirs sont en fait des algorithmes biochimiques, qui ne reposent pas sur l'intuition ou l'inspiration, mais sur le calcul. Ainsi, le babouin, la girafe ou l’humain qui voit un lion a peur parce que, dans son cerveau, des millions de neurones effectuent un calcul à partir des données de la situation et en concluent une très forte probabilité de mort imminente. Nous-mêmes n’avons généralement pas conscience que nos sentiments sont des calculs parce que les processus biochimiques qui les sous-tendent se déroulent si rapidement qu'ils demeurent sous le seuil de détection qui ne ferait accéder à cette prise de conscience. Nos sens ne perçoivent pas ces millions de neurones qui calculent les probabilités de survie et de reproduction. Nous croyons donc, à tort, que notre peur des lions, nos choix en matière de partenaires sexuels ou nos opinions sur l'Union européenne sont le résultat de quelque mystérieux "libre arbitre".

"Sous peu, les livres vous liront pendant que vous les lisez !"

Dans l’optique du dataïsme, les entreprises comme les Etats, s'ils agrègent suffisamment de données biométriques et de capacité de calcul, pourront bientôt créer des algorithmes qui me connaîtront mieux que moi-même, et le pouvoir glissera de ma personne vers l'algorithme. Ce dernier comprendra mes désirs, prédira mes décisions, et fera de meilleurs choix en mes lieu et place... Cela commence par de petites choses, par exemple quel livre acheter. Comment les gens choisissaient-ils leurs livres il y a vingt ans ? Ils se fiaient à leurs sentiments personnels et aux recommandations de leurs amis. Aujourd'hui, nous avons de plus en plus recours à Amazon. Lorsque nous entrons dans le magasin virtuel d'Amazon, le message suivant s'affiche : "Je sais quels livres vous avez aimé. Les gens qui ont les mêmes goûts que vous ont aimé telle ou telle nouveauté".

FRANCE. Sciences et Avenir a assisté à la conférence exceptionnelle donnée à Paris par Yuval Noah Harari à l'occasion du lancement de son livre. Retrouvez aussi "L'oeil de Lascar" consacré à cet événement.

Mais ce n'est qu'un début. Des appareils tels que le Kindle d'Amazon peuvent collecter en permanence des données sur leurs utilisateurs pendant la lecture. Votre liseuse peut contrôler la vitesse à laquelle vous lisez tel ou tel chapitre, ici vite, là lentement; à quelle page vous avez fait une pause, et à quelle phrase vous avez définitivement laissé tomber. Et si, de surcroît, Kindle était doté d'un logiciel de reconnaissance des visages et de capteurs biométriques, il pourrait savoir la façon dont chaque phrase vous influence, vous fait battre le cœur et modifie votre tension. Il pourrait savoir ce qui vous a fait rire, ce qui vous a rendu triste, ce qui vous a mis en colère.

Sous peu, les livres vous liront pendant que vous les lisez ! Et alors que vous oubliez rapidement ce que vous avez lu, les programmes informatiques n'ont aucune raison d’en faire autant. En fin de compte, ces données pourraient permettre à Amazon de choisir vos lectures à votre place avec une précision inquiétante et lui donner la possibilité de savoir exactement qui vous êtes et sur quels boutons émotionnels appuyer. En poussant la logique jusqu’au bout, les gens pourraient finir par confier aux algorithmes le pouvoir de prendre les décisions les plus importantes de leur vie : quelles études suivre, qui épouser, pour qui voter...

Qu'est-ce qui est le plus important dans cette révolution ? La convergence entre biotechnologie et technologie de l'information ? Plus que cela... Entre génie génétique et intelligence artificielle ?

L'essence de cette révolution, c’est la fusion entre biotech et infotech. Si les organismes sont des algorithmes, alors il n'y a aucune différence entre biotechnologies et technologies de l’information. Pour parvenir à la re-programmation des organismes (par génie génétique) et à la prise de pouvoir par l'intelligence artificielle, la clé sera donc de hacker les algorithmes biochimiques. Car en même temps que les technologies de l'information progressent, progressent aussi les biotechnologies. Plus notre capacité de calcul augmente, plus il nous est facile d'analyser les modèles biologiques, d'apprendre à diagnostiquer les maladies et à identifier les émotions. En retour, une intelligence artificielle pourra apprendre à traiter les pathologies, identifier les terroristes, de faire des recommandations sur le choix d’un partenaire, réguler une rue encombrée de piétons.

"L'intelligence et la conscience sont deux choses bien distinctes"

Est-ce que l'intelligence artificielle constitue la menace principale ? L'entrepreneur Elon Musk l'a vue ainsi (avec d'autres, tel l’astrophysicien Stephen Hawking). Qu’en pensez-vous ?

L'IA a un potentiel formidable. Les véhicules autonomes peuvent faire chuter le nombre d'accidents de la route et baisser la pollution, des médecins IA sont capables de traiter des centaines de millions de personnes qui pour le moment n’ont aucun accès aux soins. Mais l'IA est également dangereuse. Pas à la manière des scénarios hollywoodiens, qui ne m'effraient pas plus que ça. Dans le film de science-fiction type, une fois que l'ordinateur a atteint une intelligence supérieure, il se voit inévitablement doté de conscience et deux solutions se présentent alors : soit un humain en tombe amoureux, soit l'ordinateur essaie de tuer tous les humains. Des scénarios très peu réalistes, car l'intelligence et la conscience dont deux choses bien distinctes.

L'intelligence, c'est la capacité à résoudre des problèmes alors que la conscience, c'est la capacité à ressentir et à désirer des choses. Chez les humains comme chez d'autres mammifères, l'intelligence et la conscience vont de pair. Les banquiers, les conducteurs, les médecins et les juges se fondent sur leurs sentiments pour résoudre certains problèmes. Les ordinateurs, cependant, peuvent résoudre les mêmes problèmes d'une manière très différente, et il n'y a absolument aucune raison pour qu'ils développent une quelconque conscience pendant ce processus de résolution du problème.

Depuis un demi-siècle, les avancées des ordinateurs en matière d'intelligence ont été immenses, mais ils n'ont pas progressé d'un pouce en ce qui concerne la conscience. Plusieurs chemins peuvent conduire à l'intelligence, mais seuls certains impliquent l'acquisition de la conscience. De même que, sans plumes, les avions volent plus vite que les oiseaux, les ordinateurs peuvent résoudre certains problèmes bien mieux que les humains mais sans être dotés de sentiments. Bien sûr, quand il s'agit de traiter des maladies humaines, d'identifier des terroristes, de recommander un partenaire ou de réguler une rue pleine de piétons, il est nécessaire que l'IA analyse les sentiments humains avec précision.

Mais elle le peut sans ressentir quoi que ce soit par elle-même. Il me semble donc peu probable qu'une IA acquière brusquement une conscience, nourrisse des désirs incontrôlés et se mette à tuer. Deux autres dangers me semblent bien plus préoccupants. D'abord, que l'intelligence artificielle puisse donner du pouvoir à la bêtise naturelle des hommes. Un exemple : jamais les robots ne décideront de leur propre chef de tuer des humains. Mais les hommes qui les contrôlent pourraient leur en donner l'ordre. C'est précisément parce que les robots n'ont ni conscience ni sentiments personnels qu'ils ne se rebelleront jamais contre leurs maîtres. Et peu importe si ces derniers leur ordonnent de commettre des horreurs.

Une armée de robots aurait probablement écrasé dans l'œuf la Révolution française, et si, en 2011, Hosni Moubarak avait disposé d'un contingent de robots tueurs, il aurait pu les lâcher contre le peuple égyptien sans crainte de défection. De même, un gouvernement impérialiste se basant sur une armée de robots pourrait se lancer dans des guerres impopulaires sans craindre que les robots ne perdent leur motivation. Si la France avait eu des robots tueurs en Algérie dans les années 1950, la guerre aurait pu durer quelques décennies de plus. Mon autre crainte est que l'IA et la robotique n'enrichissent qu'une élite de la Silicon Valley, alors que des centaines de millions de personnes se retrouveraient écartées du marché du travail. L'humanité se diviserait entre une petite caste supérieure de super-humains et une vaste "classe inutile" de gens sans valeur économique ni pouvoir politique.

Quelles recommandations feriez-vous donc aux scientifiques ? Manquent-ils d'esprit d'anticipation ?

La plupart des scientifiques se focalisent trop sur les détails techniques dans leur domaine, et pas assez sur les implications sociales et politiques de leurs découvertes. Ils ont également tendance à avoir une vision par trop optimiste de la nature humaine et de l'utilisation qui sera faite de leurs inventions. Je les exhorte à en saisir l'importance et à se souvenir qu’en définitive, ils n’auront pas le contrôle de ce qu’ils ont créé. Il passera à d’autres, comme Trump, Poutine, Erdogan ou Netanyahou.

"Au cours des deux prochains siècles, la science pourrait s'insinuer dans la vie inorganique en lui associant un 'design intelligent'"

Finalement, quelle est votre vision personnelle : est-ce que les organismes ne sont vraiment que des algorithmes et la vie juste une question de traitement de données ?

On ne le sait pas encore, parce que nous sommes loin d'avoir compris ce que c'est que l'esprit. Beaucoup de gens, dont nombre de scientifiques, ont tendance à confondre cerveau et esprit, alors qu'il faut bien les distinguer. Le cerveau est un réseau de neurones et de synapses. L'esprit est un flux d'expériences subjectives, telles que la douleur, le plaisir, la colère et l'amour.

La science estime que le cerveau produit d'une certaine manière l'esprit, les réactions biochimiques au sein des milliards de neurones engendrant d'une manière ou d'une autre les expériences de douleur et d'amour. Mais jusqu'à présent, nous n'avons pas la moindre explication sur la façon dont l'esprit émerge du cerveau. Comment se fait-il que, quand des milliards de neurones émettent leurs signaux électriques selon un agencement bien particulier, je ressente de la douleur, et quand il s'agit d'un autre agencement, je ressente de l'amour ? On n'en a aucune idée. C'est LA grande lacune dans notre compréhension de la vie. Une lacune très dangereuse.

Nous avons redessiné la planète tout entière, mais parce que nous n'avons pas compris la complexité de l'écologie globale, nous avons par inadvertance tout bouleversé. Le siècle à venir, nous pourrions reconfigurer nos corps et nos cerveaux, mais parce que nous ne comprenons pas la complexité de notre propre esprit, nous pourrions, toujours par inadvertance, bouleverser tout notre système mental.

"D'ici 200 ans, les traits physiques et mentaux nés de la combinaison de la biotechnologie et de l'IA pourraient être en totale rupture avec le moule hominidé"

Comment évalueriez-vous cette révolution, en la comparant aux autres (héliocentrisme, relativité générale, mécanique quantique...), dans l'histoire de l'humanité ?

Par ses applications pratiques, cette révolution est la plus importante qui ait eu lieu, non seulement dans l'histoire de l'humanité, mais dans l'histoire de la vie elle-même. Pendant quatre milliards d'années, celle-ci a été gouvernée par les lois de la sélection naturelle. Que l'on soit virus ou dinosaure, ce qui présidait à l’évolution, c'étaient les principes de la sélection naturelle. De surcroît, peu importe que la vie ait adopté des formes bizarres, elles restaient confinées au royaume organique.

Cactus ou baleine étaient faits de composés organiques et sujets aux lois de la chimie organique. Au cours des deux prochains siècles, en revanche, la science pourrait s'insinuer dans la vie "inorganique" en lui associant un "design intelligent". Pas le "dessein intelligent" d'un dieu par-delà les nuages, mais bien le nôtre, celui que nous accomplirons avec nos calculs dans le « cloud ».

Cette vision est-elle bénéfique pour nous, selon vous ?

Si nous savons comment le mettre à profit, oui. Mais les humains sont beaucoup plus habiles dans l'art d’accroître leur pouvoir que dans celui d'en faire usage avec sagesse. Ce qui explique pourquoi, alors que nous sommes des milliers de fois plus puissants qu'à l'Age de pierre, nous ne sommes, semble-t-il, pas plus heureux.

Qu'allons-nous faire de tout ce pouvoir ? Pensez-vous que le post-humanisme puisse s'imposer ?

Le post-humanisme signifie que nous mettons notre pouvoir non seulement au service d’un remaniement du monde autour de nous, mais également à l'intérieur de nous. Remanier nos corps, nos cerveaux et nos esprits jusqu'à ce que nous ne soyons plus humains. J'imagine que d'ici deux siècles au plus, Homo sapiens aura disparu et que la terre sera dominée par des entités plus éloignées de nous, que nous ne le sommes de Néandertal ou des chimpanzés.

Aujourd'hui, nous continuons de partager avec ces derniers la plupart de nos structures, de nos capacités physiques et capacités mentales. Pas seulement nos mains, nos yeux et nos cerveaux qui sont clairement hominidés, de même que l’amour, la colère ou les liens sociaux. D'ici deux cents ans, les traits physiques et mentaux nés de la combinaison de la biotechnologie et de l'IA pourraient être en totale rupture avec le moule hominidé.

"La technologie n’est pas déterministe"

Avec le nucléaire, l’humanité au 20e siècle a redouté de disparaître. Ne faites-vous pas le même genre d’analyse des nouvelles techniques ?

De fait, l’histoire des armes nucléaires devrait nous donner de l’espoir. Celui de nous hisser à la hauteur des défis posés par les nouvelles technologies. Dans les années 1950 et 1960, beaucoup étaient persuadés que l’humanité n’était pas assez sage pour éviter sa propre destruction, et que ce n’était qu’une question de temps avant que la Guerre Froide ne se mue en apocalypse nucléaire. Or, l’humanité a relevé le défi. La géopolitique adoptée depuis des millénaires par les superpuissances s’est modifiée, d’où l’arrêt de la Guerre Froide sans que trop de sang ait été versé.

Est apparu ensuite un nouvel ordre mondial promouvant une ère de paix sans précédent. Non seulement la guerre nucléaire a été évitée, mais il y a moins de guerres en général. Depuis 1945, peu et même peut-être aucun pays n’a été entièrement rayé de la carte par une invasion venue de l’extérieur de ses frontières, et peu d’entre elles ont été redessinées après une agression manifeste. En 2016, malgré la guerre en Syrie, en Ukraine et dans d’autres zones sensibles, moins de morts ont été occasionnées par la violence humaine que par les accidents de voiture, l’obésité ou le suicide. J’espère que, de la même manière, nous parviendrons à surmonter les défis posés par l’IA et le génie biologique.

Pourquoi avez-vous écrit ce livre ? Redoutez-vous vraiment que l’homme veuille se mettre à la place de(s) dieu(x)?

J’ai écrit ce livre parce que je redoute les dangers inhérents à nos nouveaux pouvoirs, et parce que je pense qu’il est encore possible d’agir. La technologie n’est pas déterministe. Il y a plusieurs options possibles, et nous ne sommes pas dans l’obligation d’en adopter une en particulier. Pendant le 20e siècle, les gens ont pu emprunter le train, utiliser l’électricité, la radio et instaurer des régimes dictatoriaux, fascistes ou des démocraties libérales. De même, au 21e siècle, on fera appel à l’IA ou au génie biologique et on construira des sociétés de types très différents. J’espère que nous saurons faire preuve de sagesse.

Sciences et Avenir : Selon vous, le libre arbitre n’existe pas. En quoi cette pensée affecte-t-elle votre propre existence ?



Yuval Noah Harari : Il règne une grande confusion autour de ce concept de « libre arbitre ». Les humains ont une volonté, des désirs, qu’ils sont parfois libres de réaliser, c’est évident. En revanche, les humains ne sont pas libres de les choisir. On peut facilement s’en rendre compte. Observez la pensée qui vous vient à l’esprit en ce moment. D’où vient-elle ? L’avez-vous choisie ? Bien sûr que non. Lorsqu’on observe attentivement son propre esprit, on s’aperçoit qu’on ne choisit pas librement ce à quoi on penser, ce que l’on ressent et ce que l’on veut. En prendre conscience permet d’être moins obsédé par ses opinions, ses sentiments et ses désirs. Les humains accordent en général tellement d’importance à leurs désirs qu’ils essaient de tout contrôler pour redessiner le monde en fonction de ceux-ci. Tout à cette poursuite, ils vont dans la Lune, déclenchent des guerres mondiales et détruisent les équilibres écologiques.



Une fois que l’on a compris que nos désirs ne naissent pas de notre libre arbitre mais résultent d’une série de processus biochimiques du corps et du cerveau, on y fait beaucoup moins attention, du moins faut-il l’espérer. Se faire une juste compréhension de nous-mêmes, de notre cerveau et de nos désirs permet, selon moi, d’édifier un monde bien meilleur que lorsque notre seul objectif est de réaliser tout ce qui nous vient en tête. Voilà pourquoi, personnellement, je consacre deux heures par jour à la méditation et fais chaque année une retraite d’un ou deux mois. Je pratique la méditation Vipassana, une méthode d’observation de l’esprit de façon systématique et objective. Celui-ci est relié en permanence aux sensations corporelles, et il y réagit.



Même quand nous pensons réagir à la crise financière globale, aux propos de Donald Trump à la télévision ou à un souvenir d’enfance douloureux, nous réagissons en fait à une sensation corporelle ici et maintenant. Dans le Vipassana, le pratiquant s’entraîne à observer de façon ordonnée et objective le ressenti du corps et les réactions mentales qu’il entraîne, ce qui permet de mettre au jour son profil mental le plus enfoui. La méditation n’est pas une fuite de la réalité. Elle permet d’entrer en contact avec la réalité. Pendant au moins deux heures par jour je peux vraiment observer la réalité telle qu’elle est, alors que pendant les 22 autres heures, je suis submergé par les courriels et les tweets et les vidéos de chats. Sans la clairvoyance qu’elle m’a permis d’acquérir, je n’aurais écrit ni Sapiens, ni Homo Deus.

