Epoustouflant ! Vertigineux ! Souvent, durant la lecture, les adjectifs viennent aux lèvres de l’admirateur, avide de prospective, qui souligne et annote furieusement « Homo deus – Une brève histoire de l’avenir ».

Difficile de résumer le second opus du professeur Yuval Noah Harari, après son best-seller « Sapiens ». Visionnaire sans être prophétique, l’historien israélien produit une magistrale synthèse de ce qui est en train de naître sous nos yeux. Celle du monde qui vient, dominé par les pouvoirs inédits de la biotechnologie et des algorithmes informatiques.

Il nous facilite toutefois la tâche dans les tout derniers paragraphes d’un livre de près de 500 pages :

A quelques mois, conclut-il, nos principaux problèmes concernent « les troubles au Moyen Orient, la crise des réfugiés en Europe et le ralentissement de l’économie chinoise (…) En termes de décennies : le réchauffement climatique, l’inégalité croissante et les problèmes du marché du travail ».

« Mais si nous prenons encore plus de recul, tous les autres problèmes et évolutions sont éclipsés par trois processus liés les uns aux autres :

La science converge vers un dogme universel, suivant lequel les organismes sont des algorithmes et la vie se réduit au traitement des données. L’intelligence est dissociée de la conscience. Des algorithmes non conscients, mais fort intelligents, pourraient bientôt nous connaître mieux que nous-mêmes. »

En d'autres termes :

Vers une dictature numérique

« En politique par exemple, il existe un vrai danger de transfert de l’autorité des électeurs et de la classe politique vers les algorithmes et les Big Data (…) qui pourrait conduire à une dictature numérique », a-t-il expliqué cette semaine à Paris au Collège des Bernardins, après avoir été reçu à l’Elysée par Emmanuel Macron.

« Les principales décisions économiques, celles des gros investissements de milliards de dollars, rappelle-t-il, sont déjà prises par des algorithmes sur les marchés boursiers. Et les entités qui décident aujourd’hui qui est un terroriste, comme à la NSA ou au Mossad, sont aussi des algorithmes ». « Quand le génie génétique et l’intelligence artificielle révèleront tout leur potentiel, le libéralisme, la démocratie, et le libre marché pourraient bien devenir aussi obsolètes que les silex, les cassettes, l’islam et le communisme », écrit-il. Pour lui, « le dernier espoir des démocraties libérales, actuellement en crise, réside dans le projet européen. S’il échoue, ce sera comme l’effondrement des systèmes communistes. Et cette fois nous n’en avons pas d’autre en vue. »

L’explosion inédite des inégalités

« Le 21ème siècle sera dominé par les biotechnologies et les algorithmes qui vont créer la société la plus inégalitaire de l’histoire de l’humanité », prévient Harari. Car « ceux qui les maîtriseront, auront le pouvoir. Un pouvoir bien plus vaste que jadis, car il portera non seulement sur des machines ou des usines, mais aussi sur le corps, le cerveau et l’esprit, les grands produits du 21ème siècle » qui pourront d'ailleurs être augmentés. « La plupart des pays seront largués et n’auront aucune chance de combler leur retard. Le fossé sera plus grand que pendant les époques du colonialisme et de l’impérialisme. » « L’économie reposera sur des gens sophistiqués (indispensables et indéchiffrables) et des technologies autonomes.» C’est-à-dire des robots. Et attention, ajoute Harari, à ne pas faire l’erreur de comparer les performances d’un homme à un robot. Car l’homme ne sera pas face à une machine, mais face à un réseau réactualisé en temps réel ! « Une des plus grandes menaces du 21ème siècle sera la montée d’une classe de gens inutiles. Non pas exploités comme jadis, mais inutiles aux milliardaires de la Silicon Valley (…) Ils ne pourront même pas faire grève. Qu’allons-nous faire d’eux ? (....) Que faire des surnuméraires ? Ce pourrait bien être la question économique la plus importante du 21ème siècle (....) Ce sera encore plus dramatique dans les pays pauvres ». D’autant que « la médecine ne va se plus consacrer à soigner les malades mais à améliorer les bien portants. » Et à produire des super-humains. Notamment pour rester dans la course face à l’essor rapide de l’intelligence artificielle. « Les élites vont-elles alors s’intéresser à la santé et au bien-être des masses ? Pas sûr », répond le professeur. « Jusqu'ici, elles y avaient intérêt (guerre, usines, champs) mais demain, avec les robots, « les humains perdront leur valeur économique et les guerres ne se feront plus avec des soldats ».



Que peut-on alors faire ? Commencer par réguler la propriété des données

Attention, dit-il ! « Nous n’avons que quelques années ou quelques décennies avant que les réseaux et les algorithmes prennent le pouvoir ». « Au Moyen Age, le principal actif était la terre, puis ce furent les machines et les usines, aujourd’hui ce sont les données. Donc la question cruciale est la suivante : qui possède les données ? Aujourd’hui, elles sont la propriété d’une petite élite formée d’une poignée de firmes et d’entités gouvernementales. Nous n’avons même pas le contrôle de nos propres données. Nous sommes en train de céder le pouvoir à ces nouveaux possesseurs d’actifs en échange de services de messagerie et de vidéos de chats. Il faut donc en réguler la propriété ». Attention, avertit-il encore ! « L’essor de l’intelligence artificielle ne constitue pas un moment critique, ou à l’arrivée d'un nouveau point d’équilibre, mais ressemblera à une cascade de changements incessants ». « Et dire qu’aujourd’hui, on ne sait même pas quoi enseigner aux enfants en maternelle ! ».

La fin de l’humanisme

Le plus impressionnant dans son livre, c'est quand Harari entrevoit la fin de l’humanisme, du système démocratique libéral, et, ce qui est le plus choquant, de notre libre arbitre.

Il voit trois menaces pour le libéralisme, qui domine le monde depuis trois siècles :

Les hommes perdront toute valeur économique, car l’intelligence va être dissociée de la conscience.

Ils perdront leur autorité individuelle pour être gérés par des algorithmes extérieurs.

Une élite privilégiée d’humains augmentés va s’imposer au système qui ne pourra ni les comprendre ni les gérer.

La fin du libre arbitre :

Pour Harari, « les sciences de la vie sapent le libéralisme en soutenant que l’individu libre n’est qu’une fiction concoctée par un assemblage d’algorithmes biochimiques. (…) Le moi unique et authentique est aussi réel que l’âme éternelle, le Père Noël ou le lapin de Pâques » « La technologie du 21ème siècle, peut, elle, permettre à des algorithmes extérieurs de +pirater l’humanité+ et de me connaître bien mieux que je ne me connais. A compter de ce jour, la croyance en l’individualisme s’effondrera et l’autorité sera transférée des individus aux algorithmes en réseau. Les êtres humains cesseront de se voir comme des êtres autonomes qui mènent leur vie à leur guise pour s’habituer à se voir comme un assemblage de mécanisme biochimiques constamment surveillé et guidé par des algorithmes électroniques. Pour que ceci se produise, nul besoin d’un algorithme extérieur qui me connaisse parfaitement et ne fasse jamais d’erreur ; il suffit que l’algorithme me connaisse mieux que je ne me connais et commette moins d’erreurs que moi. Il sera alors sensé de confier toujours plus mes décisions et choix de vie à cet algorithme. »

« Qu’adviendra-t-il le jour où nous comprendrons que les choix des clients et des électeurs ne sont jamais libres, et où nous disposerons de la technologie pour calculer, concevoir ou déjouer leurs sentiments ? Si l’univers entier est arrimé à l’expérience humaine, qu’adviendra-t-il lorsque l’expérience humaine ne sera qu’un produit modelable de plus, dont l’essence ne suffira plus à le distinguer de n’importe quel article de supermarché ? ». Les humains n’étant plus finalement que des algorithmes biochimiques, il deviendra aussi possible de les hacker. Alors, « la plus grande menace viendra des hackers qui hackeront des humains, et non des machines ».

Une nouvelle techno-religion : le dataïsme, qui repose sur la liberté de l’information

L'historien parie sur l'apparition de techno-religions, post-humanistes, croyant en l’immortalité et aux paradis virtuels et qui seront essentiellement de deux ordres : « le techno-humanisme d'une part et la religion des données d'autre part ». La première croyant essentiellement dans un homme augmenté, homme-dieu, qui lancera une nouvelle révolution cognitive « avec le concours du génie génétique, des nanotechnologies et des interfaces cerveau-ordinateur. » On l'a vu: Harari décrète la fin de l’humanisme de Hume ou de Voltaire qui défendaient l’idée que « Dieu est un produit de l’imagination humaine ». « Le dataïsme retourne aujourd’hui cette arme contre eux et leur répond : « Oui, Dieu est un produit de l’imagination humaine, mais celle-ci, quant à elle, n’est que le produit d’algorithmes biochimiques ». « Car le dataïsme fait valoir que ce sont exactement les mêmes lois mathématiques qui s’appliquent aux algorithmes biochimiques et électroniques. Ce faisant, il fait tomber la barrière entre animaux et machines (…) ».

Et le plus frappant c’est que, selon Harari, c’est la biologie et non l’informatique qui sera la discipline-clé du dataïsme.

Une des caractéristiques de cette croyance à venir c’est qu’elle « renverse la pyramide traditionnelle du savoir » : « Jusqu’ici les données étaient perçues comme la première étape d’une longue chaîne intellectuelle. Les hommes étaient censés distiller les données en information, les informations en connaissance, et la connaissance en sagesse. » Mais désormais les hommes n’ont plus la capacité suffisante de traitement de flux immenses de données qu’ils doivent sous-traiter aux Big Data et aux algorithmes informatiques.

La beauté et la force des données c’est aussi qu’elles constituent « un langage commun, construisent des ponts par delà les frontières universitaires et permet aux intuitions de passer facilement les frontières des disciplines. Musicologues, économistes et spécialistes de biologie cellulaire peuvent enfin se comprendre ». « L’examen critique du dogme dataïste ne sera probablement pas seulement le plus grand défi scientifique du 21ème siècle ; ce sera aussi le projet politique et économique le plus urgent à mener. » « Ecoutez vos sentiments ! » recommandait l’humanisme. « Ecoutez les algorithmes », recommande le dataïsme ».

Impossible de freiner !

En débutant son ouvrage, Harari reconnaissait qu’aujourd’hui « personne ne sait où sont les freins ! ».

« Certains experts suivent ce qui se passe dans un domaine comme l’intelligence artificielle, les nanotechnologies et le « Big Data » ou la génétique, mais personne n’est expert en tout. Personne n’est capable de relier tous les points et d’avoir une vue d’ensemble. Les différents domaines s’influencent mutuellement avec une telle complexité que même les meilleurs esprits ne sauraient deviner en quoi les percées de l’intelligence artificielle pourraient avoir un impact sur les nanotechnologies et inversement. Personne ne peut assimiler toutes les découvertes scientifiques les plus récentes, personne ne peut prédire de quoi l’économie sera faite dans 10 ans, et personne n’a la moindre idée de ce vers quoi nous nous dirigeons avec tant de hâte. Personne ne comprenant plus le système, nul ne peut l’arrêter ».

A lire ! Et à suivre !

ES