Cet immense mathématicien du XXe siècle est resté pratiquement introuvable pendant plus de vingt ans : Alexandre Grothendieck s'était coupé de presque tout contact humain depuis 1991. Le grand public n'entendit reparler de lui qu'à sa mort, le 13 novembre 2014, dans le sud de la France. Ce fut la fin d'une vie extraordinaire à tous égards.

Le père de Grothendieck, Alexander « Sascha » Schapiro, était un anarchiste russe et juif qui avait rejoint à l'âge de 15 ans des groupes en lutte contre le régime tsariste. Emprisonné en 1907, condamné à mort, il fut conduit quotidiennement, et pendant des semaines, sur la place d'exécution avant que sa peine ne fût commuée en prison à perpétuité en raison de son jeune âge. Il passa les dix années suivantes dans des camps et prisons russes. Libéré lors de la révolution d'Octobre, il fut à nouveau capturé, mais cette fois par l'Armée Rouge. Condamné à mort une fois de plus, il réussit à s'évader pour Berlin, où il gagna sa vie en tant que photographe de rue.

Là-bas, Alexander Schapiro fit la connaissance de la journaliste, actrice et écrivaine Johanna (Hanka) Grothendieck. Issue d'une famille aisée de Hambourg, elle s'était émancipée très jeune du monde bourgeois et menait une vie errante chaotique. Alexandre Grothendieck, le fils qu'elle eut avec Schapiro, vint au monde le 28 mars 1928.

Avec l'arrivée au pouvoir des nazis, Schapiro émigra en France. Il prit part à la guerre civile espagnole, fut interné en France en tant que vétéran d'Espagne et livré à l'Allemagne en août 1942. Il fut immédiatement conduit à Auschwitz où on l'envoya sans doute directement à la chambre à gaz. Hanka Grothendieck avait suivi son compagnon en France et en Espagne, et passa la guerre dans des camps français. De 1945 jusqu'à sa mort, en 1957, elle vécut la plupart du temps avec son fils et connut ainsi l'ascension fulgurante de celui-ci.

Le petit Alexandre passa les premières années de sa vie parmi des anarchistes, marginaux, prophètes itinérants, émigrants d'Europe de l'Est et autres existences atypiques. Lorsque ses parents se rendirent en France en 1933, ils le confièrent à la famille du pasteur Heydorn, à Hambourg. Ce furent ses seules années de vie rangée.

En 1939, alors que le danger d'être « à moitié juif » le guette, les Heydorn l'envoient rejoindre ses parents en France. Peu après le début de la guerre, sa mère et lui sont internés dans des camps français en tant qu'« étrangers indésirables ». En 1942, Grothendieck trouve refuge dans le village du Chambon-sur-Lignon, où il suit sa scolarité jusqu'au baccalauréat. À partir de 1945, il étudie les mathématiques à l'université de Montpellier, financé par une petite bourse d'aide aux réfugiés, mais aussi en faisant les vendanges et divers petits emplois.

À Montpellier, les cours sont si vieillots que Grothendieck décide de se former en autodidacte. Au printemps 1948, il monte à Paris où il rencontre de grands mathématiciens : les aînés Henri Cartan, Jean Leray, Jean Dieudonné, Claude Chevalley et André Weil, ainsi que ceux de sa génération, Jean-Pierre Serre, Pierre Cartier et François Bruhat. Au cours du célèbre séminaire de Cartan, il s'approprie les mathématiques les plus récentes à une vitesse impressionnante, malgré sa médiocre formation. En 1949, Grothendieck se rend à Nancy, auprès des mathématiciens alors déjà célèbres Laurent Schwartz et Jean Dieudonné.

Ainsi commence une période de vingt et un ans de sa vie presque entièrement dévouée aux mathématiques. On raconte souvent une anecdote sans doute un peu exagérée mais certainement vraie pour l'essentiel. Peu de temps après son arrivée, Grothendieck demande à Schwartz un sujet de thèse. Schwartz, qui venait d'être récompensé par la médaille Fields – un équivalent du prix Nobel, pour les mathématiques – lui confie un article qu'il venait de publier avec Dieudonné et qui contenait une liste de quatorze problèmes irrésolus. Il lui suggère de commencer par se familiariser avec un ou deux problèmes. L'étudiant, complètement inconnu, d'origines mystérieuses et dont la seule certitude qu'on avait de lui était que sa formation était très lacunaire, disparaît et revient quelques semaines plus tard en ayant résolu la moitié des problèmes. Il s'occupe de l'autre moitié en quelques mois supplémentaires, au cours desquels il ne demande conseil à personne.

À partir de là, il devint clair que Grothendieck était un mathématicien de tout premier plan. Sous l'influence de Schwartz et Dieudonné, il s'intéressa à l'analyse fonctionnelle. Cette branche des mathématiques consacrée aux fonctions considère celles-ci comme des points d'un espace de dimension infinie. Lorsqu'on ne connaît pas la fonction qui résout un problème (par exemple une équation différentielle), ou même lorsqu'on ignore si cette solution existe, il est parfois possible de trouver une suite de fonctions qui s'approche de mieux en mieux de la solution. Si ces fonctions étaient des points d'un espace de dimension finie (par exemple notre espace usuel à trois dimensions), on pourrait essayer de donner une certaine forme à la suite des approximations, de sorte qu'elle ait alors une limite qui soit la solution du problème initial. Mais il n'est pas évident de généraliser la notion de limite aux espaces de fonctions, de dimension infinie.

Au tout début de sa carrière, Grothendieck aspirait déjà à la plus grande généralité possible. Dans sa thèse soutenue en 1953, il introduisit ainsi un nouveau type d'espaces de fonctions, les « espaces nucléaires », caractérisés par le fait que les suites d'éléments de ces espaces et leurs limites s'y comportent essentiellement comme dans un espace de dimension finie.

En tant qu'apatride, Grothendieck eut des difficultés à trouver un poste en France après son doctorat. Par l'intermédiaire de Schwartz, il se rendit ainsi à Sao Paulo (Brésil), puis à Lawrence (Kansas, États-Unis), où on lui offrit des conditions de recherche favorables. Vers 1954-55, peu avant son retour à Paris, il abandonna brusquement et radicalement l'analyse fonctionnelle et se tourna vers la géométrie algébrique. D'une façon qui lui était tout à fait caractéristique, il ne se rua pas immédiatement sur des problèmes concrets de son nouveau domaine de recherche, mais chercha d'abord à rénover et reconstruire une théorie-outil, l'algèbre homologique.

La géométrie algébrique s'occupe des propriétés géométriques d'objets définis par des équations algébriques, c'est-à-dire des équations où les variables ne sont combinées entre elles que par des additions, des soustractions et des multiplications. Les plus simples de ces « variétés algébriques » sont des courbes planes définies par des équations à deux variables réelles. Par exemple, dans le plan muni des coordonnées (x, y), l'ensemble des points satisfaisant l'équation x2 + y2 = 1 est le cercle centré en l'origine et de rayon 1, l'équation y – x2 = 0 correspond à une parabole et l'équation xy – 1 = 0 représente une hyperbole.

En trois dimensions, une variété algébrique décrite par une équation en x, y et z est, en général, une surface. L'informatique permet de visualiser de telles surfaces . Même si ces nombreuses et belles images n'ont pas fait sérieusement avancer la géométrie algébrique, elles laissent tout de même entrevoir la diversité des formes qui peuvent émerger d'une simple équation : étendues à l'infini ou bornées, constituées d'un ou de plusieurs morceaux, avec des auto-intersections, des pointes affilées comme des aiguilles, ou des trous comme dans le cas d'un tore ou d'un bretzel...

Les débuts d'un long travail de généralisation

En géométrie algébrique, l'objectif est de mettre de l'ordre dans cette diversité. Pour ce faire, on ne considère pas des propriétés « métriques » s'exprimant à l'aide de longueurs et d'angles, mais plutôt des propriétés qualitatives. Ainsi, le cercle et la parabole sont formés d'un morceau, alors que l'hyperbole en compte deux ; le cercle est fini tandis que la parabole et l'hyperbole s'étendent à l'infini ; un tore (la forme d'une chambre à air de pneu) comporte un trou, au contraire d'une sphère.

C'est par le théorème dit de Riemann-Roch que Grothendieck s'est vraiment révélé. Tel qu'il a été énoncé au xixe siècle par l'Allemand Bernhard Riemann et surtout par son élève Gustav Roch, ce théorème fournit une relation entre les zéros et les pôles d'une fonction (les points où la fonction s'annule et ceux où elle devient singulière, infinie) sur une surface de Riemann (une variété complexe de dimension 1, c'est-à-dire un espace dont le voisinage de chaque point est assimilable à un morceau de C, le plan des nombres complexes). La preuve classique se fait par des moyens issus de l'analyse à partir des fonctions différentiables qui décrivent les surfaces algébriques.

En 1953, le mathématicien allemand Friedrich Hirzebruch fit sensation en démontrant une généralisation du théorème de Riemann-Roch aux variétés de dimension supérieure, utilisant pour cela de nouvelles méthodes analytiques et topologiques dérivées des travaux d'Henri Cartan, Jean-Pierre Serre et René Thom.

Grothendieck dépassa ce succès en 1957 avec une généralisation du théorème de portée encore plus grande. Ce coup de génie le propulsa soudain sous les feux de la rampe du milieu mathématique, contrairement à ses résultats en analyse fonctionnelle, qui étaient pourtant également spectaculaires. À la différence de la preuve de Hirzebruch, celle de Grothendieck est purement algébrique. Il en résulte une extension drastique du domaine d'applicabilité du théorème : alors que jusque-là, les équations algébriques définissant une variété ne pouvaient s'appliquer qu'à des variables réelles ou complexes, Grothendieck a remplacé ces ensembles de nombres par des corps quelconques (c'est-à-dire des ensembles où l'on peut définir entre les éléments une addition, une multiplication et son inverse, la division). Ce pas décisif rendra possibles, plus tard, des applications à la théorie des nombres classique.

Par ailleurs, Grothendieck ne s'est pas intéressé uniquement aux variétés isolées, mais aussi à certains morphismes entre deux variétés X et Y. Un morphisme est ce que l'on nomme plus communément une application, c'est-à-dire une relation entre deux espaces, qui à tout point de l'espace de départ associe un point de l'espace d'arrivée. Dans le cas particulier où la variété Y est réduite à un seul point, le théorème de Grothendieck a permis de retrouver la version de Hirzebruch du théorème de Riemann-Roch.

On touche là à un point pour ainsi dire philosophique : ce qui était important pour Grothendieck, ce ne sont pas les objets pris isolément, mais plutôt les relations (les fonctions, les morphismes…) entre eux .

La théorie des catégories, qui était à cette époque toute naissante, vise à se situer dans cette même perspective . Analogue à la théorie des ensembles, mais plus abstraite encore, elle définit un cadre formel pour construire une théorie mathématique, et désigne les questions fondamentales, dont celle de savoir quels sont les objets d'une théorie ayant des propriétés universelles particulières. S'il est vrai qu'aucun problème profond n'a été résolu à l'aide de la théorie des catégories, elle a amené de l'ordre en géométrie algébrique. Cette approche a mis en évidence que de nombreuses démonstrations indépendantes les unes des autres étaient, en réalité, autant d'applications d'un même résultat tout à fait général en théorie des catégories. Les mathématiciens ont alors établi de nombreux liens, des sortes de dictionnaires, entre des situations qui semblaient a priori indépendantes les unes des autres. De plus, la théorie des catégories a mis l'accent sur les morphismes plutôt que sur les objets, exactement comme ce qu'a fait Grothendieck avec le théorème de Riemann-Roch.

Un institut créé presque que pour lui

En 1958, l'homme d'affaires français Léon Motchane créa près de Paris l'Institut des hautes études scientifiques (IHES), un établissement de recherche comportant une poignée de professeurs permanents, mais un grand nombre de chercheurs invités du monde entier. Dieudonné et Grothendieck y furent les premiers professeurs de mathématiques. Grothendieck y organisa son « Séminaire de géométrie algébrique », lequel attira de nombreux mathématiciens brillants, dont Michael Artin, Pierre Berthelot, Luc Illusie, Michel Demazure et Pierre Deligne. C'est là que fut élaborée la nouvelle géométrie algébrique.

Depuis a moins les années 1960, Grothendieck a adopté une manière de travailler inhabituelle, mais efficace. Il disait lui-même que « penser » et « écrire » ont le même sens et qu'il pouvait taper sur sa machine à écrire au même rythme que défilaient ses pensées. Pendant de nombreuses années, il s'asseyait ainsi tous les jours (ou plutôt toutes les nuits), souvent pendant plus de douze heures, devant sa machine à écrire, et développait ses idées et théories dans une forme très précise, bien que provisoire et encore lacunaire. Plus tard, il retravaillait lui-même ces textes, ou les donnait aux participants de son séminaire qui les fignolaient, les rédigeaient et souvent les complétaient après de longues discussions avec lui.

C'est ainsi que se sont constitués le désormais célèbre « Séminaire de géométrie algébrique » et les fondamentaux « Éléments de géométrie algébrique » (EGA), dont la rédaction finale a été entreprise par son ancien professeur Dieudonné. Les EGA sont une œuvre mathématique très inhabituelle. On y trouve surtout deux types d'énoncés. Les uns affirment que certaines choses sont finiment représentables, c'est-à-dire constructibles en un nombre fini d'étapes à partir d'un nombre fini d'éléments de base. Les autres stipulent que des diagrammes sont commutatifs, c'est-à-dire que l'ordre dans lequel sont appliqués certaines fonctions, constructions, morphismes, etc., n'importe pas.

Il est possible de concrétiser les objets abstraits dont traitent ces théorèmes, mais ce serait considérer là des exemples isolés, et comme Grothendieck le répétait suffisamment, ils ne l'intéressaient pas. Il cherchait toujours à découvrir le cœur d'un problème, à le libérer de toute particularité, de toute hypothèse superflue et d'autres caractères secondaires. Il tendait ainsi toujours vers une plus grande généralité. Grothendieck avait la conviction presque mystique que lorsqu'un problème est vraiment mis à nu et reconnu dans sa nature, sa solution se présente presque d'elle-même, suivant des petits pas, naturels et presque triviaux.

La plupart des personnes qui veulent rendre compréhensibles (à eux-mêmes ou à d'autres) des faits, des principes, des théories ou des problèmes généraux cherchent d'abord un exemple concret, instructif et aussi simple que possible. Grothendieck était complètement étranger à cette idée. Dans l'ensemble de ses travaux de géométrie algébrique, il n'y a aucun exemple. Bien qu'il ne l'ait jamais dit explicitement, il semblait penser que considérer des exemples détourne le regard des vrais principes fondamentaux et du cœur propre des choses. Grothendieck était probablement le seul à avoir cette conviction.

Pour la géométrie algébrique, de grands acquis plus récents, comme la preuve des conjectures de Weil par Pierre Deligne en 1974, la démonstration de la conjecture de Mordell par Gerd Faltings en 1984 et la résolution du grand théorème de Fermat par Andrew Wiles en 1994 auraient été littéralement impensables sans Grothendieck : tous ces travaux s'appuient sur le langage et les outils de la géométrie algébrique tels qu'ils ont été définis par Grothendieck.

En 1970 s'est produit ce que Grothendieck a souvent appelé par la suite le « grand tournant » de sa vie, avec l'abandon de son poste à l'IHES après qu'il eut découvert que cet institut était financé en partie par le ministère français de la Défense, ce qui était incompatible avec ses convictions pacifistes et de gauche.

Cette raison avancée par Grothendieck lui-même n'explique pourtant pas tout. En effet, il abandonna non seulement son poste mais, peu de temps après, la recherche mathématique en général. S'il ne s'était agi que du financement de l'institut, il aurait pu trouver partout dans le monde des lieux d'activité n'allant pas à l'encontre de ses convictions morales.

De plus, il se sépara de sa femme Mireille Dufour et de leurs trois enfants, quitta Paris pour la campagne et se fixa – temporairement – de nouveaux objectifs. Il avait deux autres fils issus de ses nombreuses relations. Au fil des ans, ses rapports avec eux et leurs mères deviendront de plus en plus distants, tant et si bien qu'il ne les verra presque plus au cours de ses dernières décennies.

Inspiré par la révolution estudiantine de Mai 1968, par le mouvement écologiste alors naissant et le mouvement hippie américain, et en réaction à la guerre du Vietnam, Grothendieck fonda un groupe dénommé Survivre et militant pour la protection de l'environnement, opposé à toute forme de militarisme et en quête de nouvelles manières de vivre. Durant plus de deux ans, il en fut l'acteur principal et le chef de file financier. Parallèlement, il fut professeur invité au Collège de France, à l'université Paris-Sud à Orsay, à Buffalo (États-Unis) et à Kingston (Canada), mais il était beaucoup moins engagé dans les mathématiques – ce qui signifie tout de même qu'il avait encore une activité supérieure à celle d'un professeur normal. De temps à autre, il faisait gagner à Survivre d'éminents alliés, mais le groupe ne prit jamais son envol et péréclita lorsque Grothendieck, déçu, s'en détourna.

En 1973, Grothendieck s'installa successivement dans plusieurs petits villages du sud de la France. Il fut très marqué par un groupe de moines mendiants bouddhistes qui lui vinrent en aide de diverses façons. Il se lia aussi superficiellement avec des communautés de marginaux qui s'étaient installés à la campagne. Les membres de ces groupes le décrivaient comme un homme heureux, serviable et généreux, qui apportait des fruits et du vin aux repas communs et qui chantait beaucoup. Grothendieck lui-même raconta qu'il avait vécu cette période comme « un dimanche ».

Au printemps 1973, il devint professeur à l'université de Montpellier. Dès lors, il ne voyagea plus pour des congrès ou des conférences et arrêta de publier. Ceux qui ont eu la chance d'assister à ses cours ont gardé le souvenir d'un enseignant à la passion communicative et d'une grande disponibilité.

Entre 1979 et 1990, et probablement plus tard encore, Grothendieck écrivit plusieurs « méditations » mathématiques, autobiographiques et philosophiques. La plus connue et la plus discutée est Récoltes et semailles, un texte de plus de 2 000 pages contenant une sorte de règlement de compte avec le milieu mathématique. Le texte est pétri d'amertume, mais les opinions à son sujet divergent grandement : d'aucuns sont admiratifs devant le style poétique de certains passages et voient dans cette œuvre la marque d'un grand esprit au style unique. D'autres le trouvent ennuyeux et infiniment répétitif, mais aussi dérangeant, car Grothendieck y lance des accusations manifestement sans fondement contre ses anciens élèves et collègues.

Délires et isolement

Parmi les textes mathématiques, Grothendieck écrivit Esquisse d'un programme alors qu'il postulait au Cnrs (poste qu'il obtient en 1984) pour se libérer de sa charge d'enseignement, déçu par le peu d'intérêt des étudiants. Ce texte a inspiré de nombreux développements en mathématiques. Il contient notamment l'idée d'une géométrie non abélienne, c'est-à-dire non commutative. D'autres travaux concernent les fondements de la topologie (comme la Topologie modérée ou La géométrie des formes) ou l'algèbre homotopique (comme Pursuing stacks ou La théorie des dérivateurs) et sont, pour ceux déjà publiés, une source d'inspiration constante pour des mathématiciens de tout premier plan.

Vers la fin des années 1980, Grothendieck présente des symptômes de délire religieux. Il annonce le Jugement dernier pour le 14 octobre 1996 et proclame que Dieu l'a chargé d'en informer l'humanité ; il s'identifie à une nonne stigmatisée et considère son père adoptif comme la réincarnation de Jésus – on pourrait facilement allonger cette liste.

Grothendieck disparut de la sphère publique en août 1991. Il acheta une vieille ferme à Lasserre, en Ariège. Il garda secret son lieu de résidence. Il refusait presque tous ses visiteurs, dont ses enfants. Selon ses propres dires, il s'occupait d'un travail philosophique sur le « Monde ». Pendant les vingt-trois dernières années de sa vie, il écrivit des dizaines de milliers de pages de « méditations ». Très occasionnellement, il demandait des livres à d'anciennes connaissances ou à la bibliothèque de l'IHES.

Pendant toutes ces années, Grothendieck n'aurait quitté son repaire qu'une seule fois, pour une raison tout aussi émouvante qu'absurde. Il pensait avoir fait du tort à un camarade d'école primaire, et voulait réparer cette faute. Comme il ne se souvenait plus du nom de cet élève et que sa venue à Hambourg n'était pas annoncée, le voyage fut totalement vain. En 2010, il fit à nouveau un coup d'éclat. Dans une lettre ouverte, il interdit la diffusion de ses écrits. Les projets de réédition de ses livres ou d'édition de ses œuvres complètes furent ainsi temporairement gelés.

Qu'en est-il aujourd'hui après le décès de Grothendieck en 2014 ? Il me semble important de rassembler et archiver tous ses écrits, scientifiques et autres (et en particulier sa très volumineuse correspondance). Son importance en tant que scientifique en fait un personnage d'intérêt public. Mais par-dessus tout, c'est un homme qui s'est rapproché des frontières de l'humanité, que ce soit intellectuellement, existentiellement, spirituellement ou moralement.

Le parcours et le destin exceptionnels d'Alexandre Grothendieck n'appartiennent pas qu'à lui-même, mais aussi et surtout à la société. C'est en cela que l'on reconnaît un homme vraiment extraordinaire.