Énoncés mathématiques : énoncés ensemblistes et énoncés arithmétiques

Avant de commencer, il faut expliquer un peu comment sont fichus les énoncés mathématiques. Sans rentrer immensément dans les détails, ce qu'on appelle formule ou prédicat , formellement, c'est un machin formé à partir des formules élémentaire x = y et x ∈ y (pour x , y deux variables quelconques), reliées par des connecteurs logiques ∧ (conjonction), ∨ (disjonction), ¬ (négation), ⇒ (implication), et précédés des quantificateurs ∀ (universel) et ∃ (existentiel) qui servent à lier les variables libres. (On peut toujours, si on veut, s'arranger pour que les quantificateurs soient en tête de formule.) Quand il n'y a aucune variable libre (toutes sont quantifiées), on dit qu'on a affaire à un énoncé (ou formule close). Par exemple, ∀ x ∃ y ( x ∈ y ) est un énoncé qu'on lira informellement comme tout ensemble x est un élément d'un autre ensemble y . A priori, on a envie qu'un énoncé soit vrai ou faux (et celui qui précède est certainement vrai), mais il s'agit justement d'expliquer un peu mieux ce que ça veut dire.

Ce que je viens de définir, ce sont les formules et énoncés [du langage] de la théorie des ensembles (ou plus exactement, du langage de la théorie des ensembles du premier ordre), ou plus simplement : ensemblistes . La convention orthodoxe des mathématiques veut que toutes les mathématiques soient faites dans la théorie des ensembles, donc tout énoncé mathématique doit pouvoir se formuler dans ce langage. Par exemple, l'hypothèse de Riemann, la conjecture de Poincaré, ou le problème P=NP sont des énoncés de la théorie des ensembles. En général, les énoncés mathématiques réels utilisent beaucoup d'autres notations que celles que j'ai autorisées ci-dessus, mais ce n'est pas grave parce qu'on est censé croire qu'elles sont toujours définissables dans la théorie des ensembles — on peut toujours s'y ramener.

Maintenant, il y a des énoncés auxquels je vais accorder une importance particulière dans ma discussion, ce sont les énoncés dits arithmétiques (du premier ordre). Moralement, les énoncés arithmétiques sont ceux qui ne parlent que des entiers naturels (et pas d'ensembles d'entiers naturels, de nombres réels ou d'autres ensembles plus compliqués). Formellement, les formules arithmétiques s'obtiennent en partant des termes 0, 1, x + y , x · y et x ↑ y (notation puissance), où x et y sont des variables ou bien eux-mêmes des termes, qui servent à former des formules élémentaires u = v où u et v sont deux termes, qu'on relie ensuite par les connecteurs logiques comme précédemment, en gardant à l'esprit que cette fois-ci les quantificateurs sont censés se comprendre, moralement, comme des quantificateurs sur les entiers naturels. Par exemple, ∀ x ∃ y ( x =2 y ∨ x =2 y +1) est un énoncé arithmétique (qui exprime informellement le fait que tout entier naturel x est soit pair soit impair, et dont on va certainement vouloir dire qu'il est vrai).

A priori, ce que j'ai défini comme énoncés arithmétiques formels est quelque chose de totalement distinct des énoncés formels de la théorie des ensembles (il n'y a pas d'inclusion des uns dans les autres). En fait, on peut transformer un énoncé arithmétique en un énoncé ensembliste : ce qui permet de faire cette transformation, c'est le fait que l'ensemble ℕ des entiers naturels (et des opérations +, ×, ↑ dont on veut le munir) est définissable de façon unique en théorie des ensembles (autrement dit, il existe une certaine formule Nat( x ) qui dit x est l'ensemble des entiers naturels muni de ses opérations standard et c'est un théorème — de toute formalisation raisonnable de la théorie des ensembles, notamment de ZFC — qu'il existe un unique x =(ℕ,+,×,↑) qui vérifie cette formule Nat( x )). Une fois ce fait établi, quand on a un énoncé arithmétique, on peut le transformer en énoncé ensembliste essentiellement en faisant porter tous ses quantificateurs sur des éléments de ℕ (et en interprétant les opérations arithmétiques, dans les termes, au moyen des opérations dont ℕ est muni), c'est-à-dire par exemple que l'énoncé arithmétique ∀ x ∃ y ( x =2 y ∨ x =2 y +1) se réécrit en énoncé ensembliste ∀ x ∈ℕ.∃ y ∈ℕ.( x =2 y ∨ x =2 y +1). J'identifierai audacieusement l'énoncé arithmétique de départ avec l'énoncé ensembliste ainsi obtenu. Si on veut être précis sur la différence, il faudrait noter ℕ⊧ P l'énoncé ensembliste qui dit la même chose que l'énoncé arithmétique P (et ceci se lit P est vrai dans ℕ : on voit poindre ici le mot dangereux).

On va voir que cette distinction entre énoncés arithmétiques et énoncés qui ne le sont pas va avoir énormément d'importance pour la discussion. Mais la première chose à signaler, c'est que les énoncés ensemblistes ont beaucoup plus de pouvoir expressif que les énoncés arithmétiques : toutes les mathématiques se font dans le cadre ensembliste, alors que le cadre arithmétique ne permet de dire que certaines choses — mais ces choses sont néanmoins fort importantes.

À titre d'exemple, le théorème de Fermat est un énoncé arithmétique. L'hypothèse de Riemann n'est pas prima facie un énoncé arithmétique (car il y est question d'une fonction de la variable complexe), mais en fait on sait trouver un énoncé arithmétique qui lui est démontrablement équivalent, donc on peut faire semblant que l'hypothèes de Riemann est arithmétique. Il y a beaucoup d'énoncés mathématiques importants qui, s'ils ne sont pas formellement arithmétiques, peuvent en fait s'y ramener assez facilement : par exemple, un énoncé du style tout graphe fini qui n'admet pas K 5 ou K 3,3 comme mineur est coloriable au moyen de 4 couleurs ou tout groupe simple fini d'ordre impair est cyclique peut se réécrire comme un énoncé arithmétique, parce que le concept de groupe fini ou de graphe fini peut se « coder » comme un entier naturel. Même P=NP, si on est assez astucieux, peut se voir comme un énoncé arithmétique. (Évidemment, si on veut pinailler, le concept d'énoncé « se ramenant » à un énoncé arithmétique n'est pas parfaitement bien défini puisque, si on veut, tout énoncé qui est un théorème est démontrablement équivalent à 2+2=4 qu'on peut qualifier d'énoncé arithmétique.) En revanche, quelque chose comme l'hypothèse du continu n'est pas un énoncé arithmétique et ne peut pas s'y ramener.

Je devrais peut-être aussi mentionner, comme intermédiaires entre les énoncés arithmétiques et les énoncés ensemblistes, ceux qu'on appelle les énoncés arithmétiques du second ordre : ce sont essentiellement les énoncés qui ont le droit de parler d'entiers naturels et aussi d'ensembles d'entiers naturels (ou, si on préfère, de suite d'entiers naturels, ou de nombres réels : tout ceci revient essentiellement au même), mais pas plus. Les énoncés arithmétiques du second ordre ont deux sortes de variables, des variables d'« individus » qui portent sur les entiers naturels et des variables de « prédicats » qui portent sur des propriétés (ou ensembles) d'entiers naturels. Néanmoins, je souligne que quand on dit qu'un énoncé est arithmétique tout court, cela veut dire arithmétique du premier ordre (comme défini plus haut).

Maintenant qu'est établie cette notion d'énoncé ensembliste et d'énoncé arithmétique, qu'est-ce que la vérité ?