L'énoncé du sujet a donc la forme d'un paradoxe qu'il s'agit de résoudre :
Comment une création humaine, pur jeu de l'esprit, peut-elle ainsi rendre compte d'une réalité qui n'est pas elle-même issue d'un jeu de l'esprit, qui n'est pas une création humaine ?
Ce problème est un problème très classique (déjà Galilée découvrait avec étonnement que la nature semble être écrite en langage mathématique), relancé par l'histoire des sciences contemporaines. Par exemple, lorsque Riemann au XIX° s. invente sa géométrie, il ne lui vient pas à l'esprit que cette géométrie puisse avoir jamais la moindre utilité en physique (c'est la géométrie d'Euclide qui semble décrire le réel). Or, au XX° s., on se rend compte que l'espace réel est riemannien et que cette géométrie créée par jeu est bel et bien un moyen d'expliquer le réel. Voilà qui a tout pour nous étonner et mérite effectivement de s'interroger : comment cela se fait-il ?
On voit que ce sujet concerne plus encore les sciences de la nature que les mathématiques qui, en elles-mêmes, ne prétendent plus, depuis longtemps, expliquer le réel.
Le sujet ne nous invite pas à montrer que les mathématiques dépendent de l'esprit ni qu'elles expliquent le réel. Il s'agit de considérer ces deux affirmations comme des acquis, des présupposés et d'essayer de voir comment cela est possible. Comment justifier ce paradoxe ?
Ici, la question est suffisamment complexe pour qu'il n'y ait pas de réponse spontanée.
Une première façon de résoudre le paradoxe qui nous est proposé est de se référer à la thèse empiriste.
1) La thèse empiriste.
Cette thèse consiste à dire que l'application des notions mathématiques au réel n'aurait rien d'extraordinaire en ce sens que les notions mathématiques dériveraient déjà de l'expérience sensible, au moins par la médiation de l'intuition sensible. L'esprit, en cette affaire, ne ferait que rendre au réel son bien.
Il faut rappeler en effet que les mathématiques ne naissent pas par hasard mais que la géométrie viendra de la nécessité d'arpenter les terrains pour des raisons d'héritage ou de ventes des terres. À partir du moment où le géomètre découvre ses premiers théorèmes en réfléchissant sur l'espace réel, extérieur à lui, tel qu'il l'intuitionne, il n'est nullement étonnant que ces théorèmes collent à la réalité. Les mathématiques ont d'abord été servantes des sciences et techniques. Au mathématicien, on demandait de résoudre des problèmes concrets. Les calculs astronomiques, la prévision des éclipses, l'arpentage des terrains sont les buts donnés aux mathématiciens et ils peuvent alors (au moins en ce qui concerne les prévisions astronomiques) procéder d'une façon quasi expérimentale : si le calcul est faux, la prévision est inexacte.
Rappelons en quoi consiste la théorie empiriste : selon les empiristes, nos idées découlent toutes entières des sens. C'est parce que je vois, que j'entends, que je touche etc. les choses que, à force d'habitudes, les idées s'inscrivent en moi. Que les idées, dans ces conditions, rendent compte du réel, rien d'étonnant puisque c'est le réel qui les a suscitées. L'esprit dépend de la réalité extérieure et qu'il en rende compte est on ne peut plus logique.
Les mathématiques antiques se caractérisent par le fait que la recherche de la démonstration est toujours proche du contrôle procuré par les évidences de l'observation. Leibnitz écrit : "Ce qui fait qu'il a été le plus aisé de raisonner démonstrativement en mathématique c'est en bonne partie que l'expérience y peut garantir le raisonnement à tout moment." Certes, la géométrie antique ne s'en tient pas à l'évidence et cherche toujours le raisonnement. L'image tracée par le géomètre n'est que le support de la pensée sans dispenser de l'idée. Il n'en reste pas moins que l'intuition semble bien en être le point de départ.
2) Critique de la thèse empiriste.
Pourtant la thèse empiriste ne tient pas et ceci pour plusieurs raisons :
Comment cela est-il possible ? Ici l'explication empiriste ne nous est d'aucun secours. Il faut en trouver une autre.
1) La thèse idéaliste.
Pour l'idéaliste, le monde est la réalité de l'esprit et l'esprit est, en définitive, la seule réalité. C'est pourquoi on peut aussi soutenir que l'esprit, quand il mathématise le réel, ne fait jamais que s'appliquer à lui-même ses principes mathématiques.
On retrouve les racines de cette thèse d'abord chez Pythagore, puis chez Platon.
Dans le même ordre d'idée, Brunschvicg déclarait que le monde est un réseau d'équations et de fonctions. En somme la réalité est mathématique et il n'existe pas d'autre réel que les mathématiques.
Sans aller jusque là, certains disent que l'univers (le réel), sans être identique à l'esprit, n'en posséderait pas moins une structure mathématique. Des possibilités de correspondance existeraient ainsi. L'application des mathématiques au réel ne serait qu'un cas particulier de cet accord profond, ontologique. Galilée écrit : "La philosophie, écrite dans le grand livre de l'univers, est formulée avec le langage des mathématiques. Sans lui il est humainement impossible de comprendre quoi que ce soit et on ne peut qu'errer dans un labyrinthe obscur." Mais d'où vient cette adéquation de structure ? Les idéalistes vont la trouver dans la métaphysique.
2) "Les mathématiques sont le langage de Dieu" (Newton)
Comment peut-il y avoir un accord entre l'esprit et le monde ? Comment cette analogie de structure mathématique entre la pensée et le monde est-elle possible ?
Platon nous a donné une première réponse. Selon lui, le monde des nombres est inscrit à notre insu dans notre mémoire et nous nous le rappelons pour avoir vu les idées dans un moment antérieur à notre vie. C'est le mythe de la réminiscence. Les idées en moi et le monde sensible ont la même origine : ils sont des copies des idées métaphysiques.
De la même façon, Descartes pense que le cerveau humain découvre à l'intérieur de lui-même les tables de pierre sur lesquelles sont gravés les concepts, la logique et les mathématiques. Dans les Méditations métaphysiques, il écrit : "Lorsque je commence à découvrir (les mathématiques), il ne me semble pas que j'apprenne rien de nouveau, mais plutôt que je me ressouviens de ce que je savais déjà auparavant, c'est à dire que j'aperçois les choses qui étaient déjà dans mon esprit." Pour Descartes comme pour les philosophes scolastiques la vérité existe en Dieu. Les mathématiques y trouvent leur fondement. Les commandements divins furent transmis à Moïse sur les tables de pierre. Les lois des nombres sont gravées dès la naissance dans les mémoires humaines. Il suffit d'apprendre à les lire. Ainsi Dieu a créé à la fois le monde et notre esprit. Il nous a donné les moyens de comprendre la réalité en inscrivant en nous les idées, parce qu'il est vérace. Si les mathématiques rendent compte de la réalité, c'est que la structure de l'esprit qui invente les mathématiques et la structure du monde ont le même créateur. "Les mathématiques sont le langage de Dieu" disait Newton. Cette conception va survivre à la laïcisation de la pensée philosophique. On la retrouve chez de nombreux penseurs contemporains.
Pourtant, tout ceci ne repose-t-il pas sur un mythe, une illusion ? Le monde est-il vraiment écrit en langage mathématique ?
1) Le réel ne s'adapte pas toujours très bien aux structures mathématiques.
Einstein écrivait : "Pour autant que les propositions de la mathématique se rapportent à la réalité, elles ne sont pas certaines, et pour autant qu'elles sont certaines, elles ne se rapportent pas à la réalité." Popper ajoute : "le succès, ou même la vérité, d'énoncés simples, ou d'énoncés mathématiques, ou d'énoncés en langue anglaise, ne doit pas nous inciter à conclure que le monde est intrinsèquement simple, mathématique ou britannique.(…) Tel que nous le connaissons, le monde est d'une grande complexité." Autrement dit le monde n'est pas plus écrit en langue mathématique qu'en langue anglaise (ou française ou chinoise etc.). La réalité physique résiste à notre connaissance.
Galilée a donné la forme de la nouvelle science (la physique mathématisée) en écrivant qu'elle devait s'occuper de "mesurer tout ce qui peut se mesurer, et faire en sorte qu'on puisse mesurer ce qui ne peut pas l'être directement" Mais on ne peut mesurer que des variations et encore (comme le savait Galilée) seulement les unes par rapport aux autres. Par exemple, la force en physique n'est pas une notion magique. C'est un "principe de variation". Tout le problème est alors de savoir si l'univers n'est que variation, relation, ce qui ne va pas de soi du tout.
Depuis plus d'un demi-siècle les théories physiques se sont peu à peu converties en un système de lois statistiques. Ce sont des lois de probabilité qui apparaissent comme les plus proches des faits. Autrement dit les mathématiques ne saisissent qu'une probabilité de réel.
Nietzsche déjà remarquait que la science est " un essai de créer pour tous les phénomènes un langage chiffré commun qui permette de calculer donc de dominer plus aisément la nature. Mais ce langage chiffré qui résume toutes les lois observées n'explique rien, c'est une sorte de description des faits aussi brève (aussi abrégée) que possible"(La volonté de puissance)
Ainsi le réel ne se plie pas totalement à l'ordre mathématique. De plus, il est clair que nombre de théories mathématiques ne trouvent pas d'application dans le réel et n'en trouveront sans doute jamais. Elles resteront des jeux de l'esprit.
Enfin les mathématiques elles-mêmes ne sont pas une science parfaite. Bertrand Russel écrit :"Je voulais des certitudes comme celles que les gens cherchent dans la religion. Mais j'ai découvert que plusieurs démonstrations mathématiques que mes professeurs voulaient me voir accepter étaient pleines d'erreurs. Si les certitudes pouvaient venir des mathématiques, elles viendraient d'un nouveau champ mathématique avec des fondements plus solides que ceux qui existaient déjà et auxquels on avait cru pouvoir faire confiance. Plus mon travail progressait, plus me revenait en mémoire la fable de l'éléphant et de la tortue. Ayant créé un éléphant sur lequel le monde mathématique puisse s'appuyer, je l'ai trouvé chancelant et je me suis mis à la construction d'une tortue pour l'y déposer et l'empêcher de tomber. Mais la tortue n'était pas plus solide, il fallait l'appuyer sur une nouvelle tortue. Après 20 ans de dur labeur je suis arrivé à la conclusion que je ne peux plus rien faire pour donner à la connaissance mathématique un statut de certitude." Le mythe de la perfection des mathématiques s'est dissout. Il est aujourd'hui bien difficile de croire que les lois des nombres sont l'ultime vérité du monde.
L'évolution des mathématiques reflète le fonctionnement et les limites du cerveau humain dont décidément elles sont le produit. Les mathématiques ne donnent qu'une représentation approximative de la réalité. Si la géométrie d'Euclide permet de rendre compte de l'univers à notre échelle, en astronomie on utilise celle de Riemann. Toutes les théories physiques mathématiques sont approximatives et ne fonctionnent qu'à l'intérieur d'un domaine donné hors duquel elles deviennent inutilisables. La physique de Newton fonctionne pour les corps lents. Quand on parle des corps approchant la vitesse de la lumière, il faut se référer à la relativité d'Einstein. Mais quand on parle des atomes, il faut faire appel à la physique quantique qui d'ailleurs ne fonctionne plus lorsque le champ de gravité est trop fort. Tout système est incomplet.
Il n'en reste pas moins vrai que les mathématiques décrivent en partie le réel, certains aspects du réel. D'où vient cette efficacité ?
2) La physique mathématique, construction du réel.
La logique n'est pas posée là, définitive et inaltérable. Il faut la regarder comme un processus en devenir toujours perfectible, toujours passible de remise en question. Comme l'univers, la logique est en perpétuelle évolution. Comment les nombres viennent-ils aux humains ? Piaget dit que c'est par construction. Le mot contient à la fois découvrir et inventer. Le cerveau construit la réalité. Piaget montre que la logique chez l'enfant émerge d'une interaction entre l'intellect humain et la réalité perçue par les sens. Coupés du monde, nous ne penserions pas et nous ne ferions pas de mathématiques. Toutes les structures mentales se construisent. Rien n'est donné au départ sinon un cerveau vierge, non structuré, qui a besoin d'apprentissage. Les structures mentales se construisent par interaction du sujet et réaction de l'objet. Ainsi le paradoxe de notre problème est un faux paradoxe. Certes les mathématiques sont issues de l'esprit mais l'esprit ne se construit pas seul sans rapport avec l'expérience. Qu'il y ait donc des coïncidences, d'ailleurs partielles, avec le réel n'a rien d'étonnant. Mais cette construction ne saurait être parfaite car l'affectif s'y mêle et le corps aussi.
Le cerveau n'est pas indépendant de l'ordre du monde. Il est un des fruits de l'évolution cosmique. Son élaboration est gouvernée par l'action des lois de la physique sur la nature universelle. Pour le dire autrement, le cerveau est aussi réel, l'esprit n'est pas séparé de la réalité : il en est issu. C'est peut-être de là que lui vient son aptitude à formuler les principes autour desquels et grâce auxquels il est structuré. Mais nous n'expliquons le réel que progressivement et jamais d'emblée. Nous construisons le réel progressivement et nous n'en rendons pas compte tout à fait exactement. Vouloir en rendre compte sous la forme d'une adéquation, d'une concordance parfaite, est une illusion.
Les mathématiques ne sont qu'un modèle possible et imparfait du réel, un langage qui permet d'expliquer mais sans que nous soyons sûrs que le réel soit seulement cela, que le réel soit mathématique. Nous sommes comme les pêcheurs au filet que nous décrit Popper et qui ne peuvent attraper que les poissons plus gros que les mailles du filet. De même nous ne saisissons que des aspects du réel. D'une certaine façon, nous l'inventons, certes pas tout à fait arbitrairement, mais de façon imparfaite. L'histoire des sciences est une rectification indéfinie et il n'y a plus rien d'étonnant à ce que nous puissions connaître le réel si nous voyons que cette connaissance est progressive, lente. Le temps explique que nous approchions petit à petit de la réalité. Ce qui serait incompréhensible ce serait une connaissance immédiate mais en réalité il y faut des siècles.
Le sujet posait un paradoxe en réalité apparent. D'abord les mathématiques ne rendent qu'imparfaitement compte du réel et de façon progressive, ensuite derrière notre sujet se cachait le présupposé idéaliste selon lequel l'esprit serait séparé du réel et aurait donc des difficultés à le rejoindre. Mais l'esprit n'est pas séparé du réel. Nous sommes le produit d'une évolution elle-même issue d'un jeu de lois physiques et chimiques qui permit la naissance des premiers vivants. Au fond, se poser séparément ces deux questions, "pourquoi sommes-nous intelligents ?" et "qu'est-ce qui rend la réalité intelligible ?", c'est ne pas voir qu'il s'agit d'une seule et unique question : pourquoi y a-t-il un ordre du monde auquel répond l'ordre de cette pensée qui en est issu ? Pourquoi n'y a-t-il pas le chaos ? Mais cette question est insoluble car justement toute pensée suppose l'existence d'un ordre. On ne saurait penser un chaos. L'ordre est le présupposé de la pensée, son fondement et non son objet, non ce sur quoi elle devrait s'interroger.