Un week-end pour réfléchir Mathieu Deslandes Nous avons puisé dans notre collection de grands entretiens pour vous concocter un week-end de réflexion sur les enjeux du numérique, histoire de bien attaquer cette nouvelle année scolaire. Pour encourager les travaux sur ces sujets, Rue89 lance d'ailleurs avec le Fabernovel Institute les Prix des Talents de la recherche. Ce concours, ouvert jusqu'au 27 septembre, s'adresse aux jeunes chercheurs. A la clé : 5 000 euros de prix.

George Dyson est l’un des penseurs les plus intéressants et les plus originaux des sciences et de l’informatique. Combien d’historiens des sciences ont un temps habité dans les arbres et passé vingt ans à fabriquer des kayaks selon les méthodes des habitants des îles aléoutiennes, en Alaska ?

Antoine Viviani, le réalisateur d’« In Limbo » (une expérience interactive en ligne sur inlimbo.tv, et un long-métrage documentaire pour le cinéma en 2015, en coproduction avec Providences, Arte et l’ONF), l’a rencontré pour parler avec lui de l’univers numérique, de la survenue de l’imprévisible dans le chaos et de l’émergence possible d’un nouveau mysticisme.

Antoine Viviani : Qui êtes vous, George Dyson ?

George Dyson : Je suis considéré comme un historien des technologies – et c’est en partie vrai. Mais je me considère davantage comme historien des gens, et en particulier des gens qui ont un rapport avec la technologie. Je m’intéresse à l’origine des choses. Ça m’a toujours fasciné.

Vous avez vécu quelques années dans une maison dans les arbres... Pourquoi et quel est le rapport avec la technologie ?

A ce moment-là de ma vie, j’ai fait ce choix tout simplement parce que j’avais besoin d’une maison et que j’adorais grimper aux arbres ! Pourquoi donc ne pas rentrer chez moi chaque soir en grimpant à un arbre ? De plus, l’espèce humaine est fort probablement née dans les arbres, et on se sent très vite chez soi là-haut.

La technologie, en fin de compte, fait aussi partie de la nature – c’est un autre genre de nature, mais la nature tout de même. C’est pour ça que je cherche à l’étudier comme les biologistes étudient le vivant.

Justement, vous avez étudié l’univers numérique et les mythes qui l’accompagnent. Et vous racontez que les ingénieurs qui ont travaillé sur le premier ordinateur et la création du monde numérique l’ont fait dans un but militaire, pour la création de la bombe atomique. Pouvez-vous expliquer cette histoire et le parallèle entre les deux ?

Vidéo de George Dyson

La bombe atomique a été un énorme succès, ou un énorme échec mais le fait est qu’elle a fonctionné. La question qui s’est alors posée a été : pourrait­-on construire une bombe H, qui serait mille fois plus puissante ?

C’est devenu un objectif crucial, qui pouvait être atteint uniquement par des calculs très complexes pour lesquels il n’existait pas encore de machine assez puissante. C’est de là qu’est née la nécessité de construire une machine très rapide, capable de simuler, en quelque sorte, le monde physique dans la mémoire d’une machine intelligente. Aujourd’hui, ça nous paraît évident.

Von Neumann voulait vraiment créer cette machine, mais il lui manquait des fonds. Or les militaires avaient ces fonds, donc ils ont fait un pacte qu’on peut résumer comme : vous les militaires, vous aurez la bombe H et nous les scientifiques, l’ordinateur.

C’était un accord. Et cela a extrêmement bien fonctionné.

Je dis ça à moitié sérieusement, mais il faut se souvenir que le pacte n’a jamais été honoré : la bombe H n’a jamais été utilisée, nous n’avons jamais vécu la guerre thermonucléaire.

Ma théorie est donc la suivante : peut-être que le diable attend toujours et qu’il veut les ordinateurs. Et notre rôle, en tant qu’humains, est de nous assurer que les ordinateurs ne deviennent pas l’instrument du diable, ce qui est, nous le savons, très possible. Les ordinateurs peuvent servir à mettre le savoir à portée de tous – ou bien à dominer le monde entier. C’est notre travail que d’aider à faire ce choix.

Aujourd’hui, comme un trou noir, l’ordinateur collecte toute l’information du monde et relie tous les souvenirs du monde via Internet. Ça le rend encore plus fort, encore plus puissant. C’est la logique d’expansion de cet univers : les données veulent toujours plus de données. Tout est une question de collecte, d’analyse et de traitement de données.

Making of Antoine Viviani a réalisé un film interactif sur les données sensibles, « In Limbo », dont Rue89 est partenaire et que nous aimons beaucoup. Pour son film, il a fait des dizaines d'heure d'entretiens passionnants. Nous lui avons proposé d'en publier des extraits sur le site. Cet entretien a été traduit de l'anglais par Hadrien Bajolle et Claire Richard.

Du point de vue de l’univers numérique, du monde des chiffres, vous avez ces chiffres qui essaient de croître, qui sont comme des herbes folles ou des mauvaises herbes, ils poussent partout où ils trouvent de quoi se nourrir.

Et les nombres disent « Copie-moi et prends-moi avec toi, et copie-moi encore et dissémine moi », exactement comme la graine se transforme en fruit pour attirer l’animal qui mangera le fruit et permettra à la graine de se déplacer.

Pour moi, qui suis un humain, qui ai habité dans les arbres et qui adore le monde physique, c’est effrayant. J’adore les livres et les cartes perforées. Je ne veux rien abandonner de tout ça et je ne suis pas si sûr qu’il soit si bon de se rappeler de tout. Etre humain, c’est aussi oublier et se souvenir de ce qui importe.

Mais du point de vue de ces nouvelles formes de vie numériques, c’est un monde très séduisant, où les humains sauvegardent les nombres au lieu de les faire disparaître.

Est-ce que c’est un monde qui fonctionne ? Je n’en sais rien. Les hommes ont toujours rêvé de l’immortalité. Mais l’immortalité est l’apanage des dieux et il y a une raison à ça.

En 1946 ou en 1950, quand les structures du monde numérique ont été mises en place, personne n’aurait imaginé qu’il allait continuer à grandir comme ça, jusqu’à prendre la taille qu’il a aujourd’hui, sans s’effondrer sur lui-même.

Or personne n’a essayé de le changer, d’établir de nouvelles règles...

Exactement. C’est très semblable à ce qui s’est passé avec l’apparition de la vie biologique. Si vous y réfléchissez, il y a 3 milliards d’années, à l ’époque où nous situons l’apparition de la vie, vous avez ce système bizarre, qui encode des protéines en utilisant un alphabet étrange de liaisons nucléaires et d’acides aminés. Ça peut sembler suffisant pour fabriquer une bactérie ou un acide aminé, mais si vous voulez construire un oiseau ou un serpent, a priori vous allez devoir trouver mieux. Ce système-là est trop primitif.

Et pourtant, tous les animaux, toute la vie de la planète, depuis des milliards d’années, fonctionnent grâce à ce seul alphabet de code. Parce qu’une fois que vous avez choisi votre alphabet, c’est très difficile d’en changer.

Mais tout ça a des conséquences très réelles. C’est déjà en train de changer nos façons de penser, de parler, de percevoir le temps et l’espace. Comment pensez-vous que le monde numérique est en train de nous changer ?

Ce mouvement a en réalité fonctionné dans les deux sens : depuis le début, les ordinateurs apprennent de plus en plus le langage humain. Nous les programmons en utilisant de plus en plus notre propre langage. Mais inversement, les ordinateurs nous poussent petit à petit à nous adapter de plus en plus à leur monde.

Vous avez dit quelque part que la création de l’univers numérique était inévitable. Pourquoi ?

On a découvert le feu, on a découvert l’électricité, et on a découvert les nombres : au bout d’un moment, tout ça allait forcément se rejoindre pour donner naissance à un ordinateur, ou quelque chose d’approchant. Certes, on aurait pu en rester au stade des cartes perforées, si IBM avait refusé de développer autre chose... Mais je pense que ce serait quand même arrivé. On aurait eu des smartphones, même si Apple n’avait pas existé.

Vous avancez aussi l’idée qu’Internet est un espace sauvage, même encore aujourd’hui...

J’ai toujours été attiré par ce qui est sauvage – et aussi par la sauvagerie. Par exemple, l’herbe qui pousse dans les fissures de l’asphalte, au beau milieu d’une ville. C’est sauvage, mais ce n’est pas de la sauvagerie. Le monde numérique a des propriétés similaires : si organisé et civilisé puisse-t-il sembler, le sauvage finit toujours par revenir.

Aussi longtemps qu’un système admet l’arithmétique, il admet l’imprévisible. Pour certains, c’est terrible : « Oh nous ne pouvons pas entièrement contrôler l’univers ! » Pour moi, c’est ce qui nous sauve. Même ce nouveau monde numérique va perpétuellement s’ensauvager et demeurer sauvage, et c’est précisément ce qui le rend intéressant.

Vous dites que cet univers est instable, mais à un certain point, nous finissons par avoir le sentiment que le code, comme vous dites, ou bien les machines, sont plus fortes et qu’elles continueront à se développer et à générer plus de codes et plus de machine...

Quand les gens demandent : quand les machines prendront-elles le dessus ? J’ai envie de répondre : « Il y a douze ans ». Ça y est, elles ont pris le dessus, c’est fait ! Ce sont les nombres qui ont pris tout le pouvoir, pas l’inverse. Les humains se sont toujours considérés comme les créatures les plus proches de Dieu, celles à qui étaient confié le monde. Mais ce n’est pas forcément vrai.

Aujourd’hui, nous nous retrouvons dans la position des animaux, et ce n’est pas forcément une mauvaise chose. Après tout, le jugement des machines sera peut-être meilleur : nous avons longtemps confié l’autorité morale à des institutions, comme l’église par exemple, qui n’en ont pas forcément fait bon usage. Ça vaut peut-être la peine d’essayer quelque chose de nouveau. Nous nous voilons complètement la face quand nous croyons qu’il arrivera un jour où nous devrons décider si ou non nous voulons laisser le contrôle aux machines. En réalité, cela fait bien longtemps que nous leur avons abandonné le contrôle – et cela sans trop d’états d’âme.

Vous avez parlé d’Internet comme de la « cathédrale de Turing ». Qu’est-ce que ça veut dire ? Comment ça s’applique au Web ou à Google ?

C’est une image qui vient du célèbre article du mathématicien Alan Turing, en 1950, dans lequel il explique ce qui allait devenir le test de Turing. Turing voulait répondre aux critiques qui affirmaient que seul Dieu peut créer la vie et donc l’intelligence. Sa thèse était que lorsque nous fabriquons des « machines intelligentes », nous ne créons pas plus une intelligence que nous ne créons des âmes lorsque nous faisons des enfants. Dans ces deux cas, nous nous contentons de fabriquer une demeure pour les âmes.

Et je trouve que c’est très vrai : on ne crée pas une âme, mais on crée une machine tellement avancée qu’elle pourrait peut-être un jour avoir une âme. Nous ignorons d’où viennent les âmes.

Mais quand j’ai visité Google, en 2005, et que j’ai vu ce qu’ils étaient en train de faire... c’était incroyable, absolument fascinant et incompréhensible. Quand je suis sorti, cette image m’est venue à l’esprit : nous ne sommes pas en train d’édifier la demeure de Turing – mais sa cathédrale.

Car une cathédrale n’est pas construite par une seule personne, elle n’a pas forcément d’architecte précis, elle se construit petit à petit, quand les gens apportent des éléments. Et ce jour-là, j’ai eu le très fort sentiment que Google et Internet en général sont la cathédrale de Turing. Turing a contribué à construire ce monde, mais il n’aurait probablement jamais pu l’imaginer.

Nous avons fini par créer un monde dont nous ne sommes pas les dieux, mais les créateurs : un monde que nous ne comprenons pas entièrement et qui nous dépasse...

Nous avons essayé de tout contrôler mais nous avons fini par créer quelque chose que nous ne contrôlons pas, et que nous ne pouvons peut-être pas comprendre. Car telle est la caractéristique de la véritable intelligence artificielle : par définition, c’est quelque chose qu’on ne peut pas comprendre. Si on peut la comprendre, alors ce n’est qu’une machine. C’est quand les machines commencent à faire des choses qui nous échappent, que nous ne comprenons pas, que l’intelligence peut vraiment survenir.

Vous pensez qu’Internet, que la technologie, renouvellent notre désir de transcendance, de dépasser nos limites et même nos corps ?

En tant qu’espèce, nous avons grandi dans un monde qui était peuplé d’esprits et de choses incompréhensibles. Et en un sens, je pense que nous sommes à l’aise avec ça. C’est intéressant de voir que vous avez beau mettre les gens dans le monde le plus prévisible et intelligible possible, ils finiront toujours par inventer des entités spirituelles, des démons, etc. En un sens, je pense que nous revenons au monde de notre enfance, en tant qu’espèce.

Le désir de transcendance semble naturel chez les humains : nous semblons biologiquement conçus pour ça... On ne sait pas vraiment pourquoi d’ailleurs. Il y a des biologistes de l’évolution qui travaillent sur ces questions : pourquoi désirons-nous tant la religion ? C’est peut-être une conséquence secondaire de l’évolution : on a développé l’intelligence pour mieux chasser, mais ensuite, une fois devenus intelligents, on n’a plus pu s’arrêter, on a commencé à rêver et à désirer autre chose... Et puis, nous avons une tendance naturelle à faire des enfants, pour devenir immortels. Internet semble capter cette tendance que nous avons à vouloir propager nos idées.

Est-ce qu’on peut voir la naissance du monde numérique comme la révélation d’une prophétie nouvelle ? En tous cas comme une révélation ?

Je suis surpris que nous n’ayons pas plus assisté à ça. La naissance d’une technologie collective offre un terreau tellement puissant et fertile à la croyance que je suis très surpris que les religions existantes ne l’aient pas adopté plus souvent.

La religion existe parce qu’il y a un fossé entre l’esprit des êtres humains et celui de Dieu, et c’est dans cet espace vide que nous créons la religion. Et cet espace est aujourd’hui un terreau très fertile pour la technologie.

Au fond, la technologie est une couche supérieure, un esprit plus vaste que celui des êtres humains, et elle possède les qualités que nous cherchons dans la religion, pour dépasser la mort des individus. C’est pourquoi je pense que nous allons assister à ça, ça n’est juste pas encore mûr.

Alors selon vous, nous faisons tous partie de cette mutation, que nous croyions ou non en ce nouveau mythe qui dépasse de très loin nos simple pratiques quotidiennes.

Nous ne sommes qu’au début, nous sommes comme les personnages de l’Ancien Testament, qui tournent en rond dans le désert parce qu’ils n’ont pas encore trouvé leur messie, mais on sent en même temps que c’est sur le point d’arriver. Nous avons des religions millénaires, mais... de la même façon que nous assistons à la création d’un nouvel univers, il n’y a pas de raison que nous ne voyions pas émerger une nouvelle religion...

C’est une idée fascinante, que cet univers numérique, existe à son échelle propre, et qu’il puisse devenir à terme quelque chose d’aussi vaste que l’univers dans lequel nous vivons...

Oui, nous n’en sommes qu’au tout début : c’est comme si on voyait au télescope les premières secondes juste après le Big Bang. Quand on dit « l’univers numérique », beaucoup de gens pensent à Facebook, iTunes et Wikipédia. Pour eux, on additionne tout ça et on a l’univers numérique.

Quand je dis « univers numérique », je veux dire tout autre chose. Pour moi, l’univers numérique est quelque chose de très réel, ça n’a rien d’imaginaire. C’est une matrice dans lequel tous ces bits se déplacent, à un moment donné, avec une taille donnée. Il y a deux ans, cet univers grandissait à la vitesse de 5 trillions de bits par seconde. Ça grandit. Ça a sa propre matérialité, ses propres règles, sa propre physique. Et c’est une physique différente de celle qui régit l’univers dans lequel nous vivons. Ce n’est pas parce que nous avons créé cet univers qu’il n’est pas réel. C’est juste un univers différent. La question est : dans quel sens va-t-il évoluer ?

Certains disent que lorsque nous éteignons un ordinateur, il disparaît, ce qui veut dire que nous gardons le contrôle dessus. Mais pourrons-nous toujours éteindre nos ordinateurs ? Les machines nous laisseront-elles le faire ? Nous n’en savons rien.

Et c’est très intéressant d’observer ça. C’est comme prendre un sous-marin pour aller explorer les fonds de l’océan, là où personne n’est jamais allé avant. Vous allez forcément découvrir des choses nouvelles. Eh bien, de même, nous pouvons observer ce monde numérique et il vaut la peine qu’on l’étudie – même sans comprendre, et certainement sans être capable de prédire ce qui va arriver.

Nous vivons à une époque incroyable. Quand les générations futures (à supposer qu’il y en ait) regarderont notre époque, elles se diront : « Quelle chance avaient ces gens, d’avoir pu observer tout ça. » C’est comme de voir le premier vol en avion, ou de voir s’ouvrir devant soi un monde inédit.

Article initialement publié le 22 février 2015.