Cet article a été écrit par George Comte, professeur des universités au Laboratoire de Mathématiques (LAMA), UFR Sciences et Montagne. Il est republié à partir de The Conversation sous licence Creative Commons. [Lire l'article original]

« Cet immense livre qui se tient toujours ouvert devant nos yeux, je veux dire l’Univers […] est écrit dans la langue mathématique », écrit Galilée, figure fondatrice de la science moderne. Le but de cet article est d’interroger ce présupposé tenace en science, selon lequel les notions de réel, de langage et de vérité entretiennent des liens robustes et naturels, jusqu’à se confondre. Nous le mettrons à l’épreuve d’un théorème mathématique qui, de ce point de vue, apparaît très paradoxal.

Un paradoxe centenaire

Commençons par ce théorème, dont on fête en 2024 le centenaire, connu sous le nom de paradoxe de Banach-Tarski, leurs deux auteurs. Cet énoncé est accompagné d’une preuve irréfutable, selon les standards rigoureux des mathématiques, où la vérité est définie de manière très précise. Il ne s’agit par conséquent surtout pas d’un paradoxe, mais bien d’une vérité, celle-là même qui va nous préoccuper plus bas. Ce théorème énonce :

« On peut découper une boule en un nombre fini de parties et les réarranger pour former deux boules identiques à la première. »

S’il nous parlait d’une expérience quotidienne, cet énoncé signifierait que l’on peut découper en morceaux bien choisis une orange et les réassembler (sans les déformer) en deux oranges identiques à la première (sans trou). Puis recommencer l’opération pour, à partir d’une seule orange, en obtenir autant que l’on veut. Une variante de ce théorème est : « On peut découper une boule donnée en un nombre fini de parties et les réarranger pour former une boule de rayon aussi grand que désiré. »

On pourrait ainsi réassembler les morceaux d’une orange pour en reconstituer une de la taille de Jupiter.

Un faux paradoxe

Le paradoxe vient de ce que cet énoncé ne se plie pas à l’expérience têtue du réel, où nous assignons intuitivement à tout objet un volume pour lequel le tout est la somme des parties. D’autre part, chaque morceau du découpage est pratiquement irréalisable, car constitué d’un nombre infini de points, alors que le nombre total des particules de l’univers est quant à lui fini.

Enfin, cet énoncé ne peut être prouvé sans accepter une prémisse nommée axiome du choix, de sorte que sa véracité ne provient pas d’un principe naturel mais de l’adoption d’une règle du jeu du langage. Là est la clef logique du faux paradoxe : de cet axiome découlent les morceaux du théorème, pour lesquels l’objection de l’invariance du volume ne peut être invoquée, car tout simplement aucune notion mathématique de volume ne peut leur être appliquée.

Mais un faux paradoxe embarrassant

Le grand intérêt de ce théorème vient de ce que le paradoxe persiste, même après avoir été techniquement éclairci. Pour comprendre cette difficulté, d’ordre psychologique, il faut un peu se plonger dans l’histoire des idées.

Les sciences, comme la physique, qui étudient des phénomènes naturels supposés suivre des règles immuables, établissent des lois mathématiques présentant trois vertus. Tout d’abord, la concision, qui permet la diffusion efficace du savoir, universellement ouvert à la controverse scientifique. Ensuite la prédiction du déroulement d’un phénomène. Enfin, une fécondité avérée : de nouveaux concepts peu intuitifs apparaissent à la limite des lois. Les trous noirs ou certaines particules élémentaires ont ainsi d’abord été prédits par les équations.

Sous l’effet de cette mathématisation des sciences de la nature, il est admis que cette « Nature » s’exprime en langage mathématique. Plus remarquable encore, le paradigme réciproque sur lequel vit plus ou moins consciemment tout chercheur, selon lequel l’interrogatoire mathématique de la nature doit révéler les uns après les autres ses secrets, et offrir le panorama sans ombre du réel. Le physicien Eugen Wigner nomme cette foi « la déraisonnable efficacité des mathématiques dans les sciences de la Nature ».

Cette croyance a pour elle la réussite indéniable de la mathématisation des sciences de la nature, puisque les avions volent, comme le prédisaient bien les lois de l’aérodynamique. Il faut y ajouter un puissant ressort psychologique : est séduisante l’idée selon laquelle toute la vérité du réel émerge dans le langage (mathématique). Le progrès scientifique, dans un déroulé irrépressible ne laissant rien au bord de la route du savoir, finirait ainsi par épuiser cette vérité. Tout ne serait qu’affaire de patience.

Réel, langage et vérité : une croyance lointaine

Tout semble ainsi se passer comme si le réel, la vérité en tant que concept, c’est-à-dire l’idée que l’on peut assigner une valeur à tout discours sur la nature (le vrai ou le faux) et qu’en retour chaque phénomène est assignable à une loi, et enfin le langage bien calibré par la grammaire et la logique, occupaient les trois sommets d’un triangle conceptuel immuable, parfois confondus, et qu’en l’absence de l’un d’eux se déroberaient les deux autres.

On peut faire remonter cette conception, réactivée à la Renaissance, au moins au Platon de l’époque grecque classique, qui postule l’existence, certaine mais surplombante, d’un réel établi dans le monde inaccessible des Idées, dont ne se montrent que les sombres et grossières projections (chaque représentation ici-bas d’un cercle est une image imparfaite de l’Idée du cercle). Cette existence lointaine du réel nous mettrait de plus en devoir de cheminer vers lui, car guidés par le principe de vérité, nous pourrions être conduits au ciel des Idées. C’est Euclide (III^e siècle av. J.-C.) qui sous ce régime institue les mathématiques en science modèle hypothético-déductive : à partir d’un nombre minimal d’axiomes, le raisonnement logique, de vérités en vérités, nous hisse aux propriétés les plus élevées de la géométrie et des nombres.

Auparavant, la lointaine civilisation mésopotamienne n’avait pas formalisé ainsi son rapport au réel, au langage et à la vérité, et encore moins fait tenir ensemble ces trois-là. Leurs textes font état d’un usage performatif, divinatoire du langage (le réel se conforme à ce qui en est dit, et non l’inverse). Quant aux mathématiques mésopotamiennes, elles ne se préoccupent ni de système d’axiomes, ni de généralisation des formules, qui ne dépassent jamais les problèmes pratiques. Une civilisation pour laquelle, selon les mots de Richard Powers dans son roman Sidérations : « Le monde est une expérience d’invention de la validité, et la conviction est sa seule preuve ».

Une illusion démentie par les mathématiques elles-mêmes

C’est Nietzsche qui s’inquiétera le premier de notre foi platonicienne en une trinité sainte réel-langage-vérité, où chaque énonciation revêt le caractère merveilleux d’un voile levé sur la supposée vérité du monde. Ce qui confère en retour une aveuglante, et selon lui pathologique, apparence créatrice au langage (mathématique). Il le résume ainsi dans le Crépuscule des idoles : « Je crains bien que nous ne nous débarrassions jamais de Dieu, puisque nous croyons encore à la grammaire ».

Puisque sous ce régime de vérité se développent de manière apparemment satisfaisante les sciences du réel, on s’attend à ce que les directions que prennent les mathématiques elles-mêmes, en tant que science modèle, précisent plus nettement encore ce contour sans ombre de la vérité du réel. Or un théorème comme celui de Banach-Tarski semble au contraire ruiner ces liens imaginaires entre réel, langage et vérité.

Le réel et les mathématiques libérés de leurs liens

Que conclure ? Cet exemple d’une vérité mathématique irréelle atteste l’autonomie des mathématiques, qui se déploient hors du réel sensible, en un langage uniquement soucieux de sa vérité interne, reposant sur des choix conscients de règles. Tandis que le paradoxe ressenti n’est que l’effet d’une illusion, celle des liens imaginaires réel-langage-vérité décrits ci-dessus. Les mathématiques sont loin de ressembler à ce que désigne Wittgenstein dans ses Remarques philosophiques comme un « langage phénoménologique, grammaire des faits sur lesquels la physique construit ses théories ».

Ceci interroge en retour l’idée d’une Nature préalablement écrite en langage mathématique : lorsque la flèche mathématique atteint une vérité, celle-ci peut être irréelle. Mais nous devons tout autant estimer que sa trajectoire ignore un ensemble inaccessible de phénomènes, car à jamais intraduisibles dans sa langue, et dont la configuration potentiellement immense dessine les bords impensables du savoir exprimable. C’est le postulat inverse du platonisme.

Rompre avec l’opinion rassurante d’une science mathématique traduisant graduellement toute la vérité du réel n’aide sans doute pas à produire plus de savoirs, mais nous place en de bien meilleures dispositions pour penser valablement à la fois le réel et le savoir.