Épistémologie des mathématiques
L'épistémologie des mathématiques s'organise autour d'une question centrale : quel est le statut des objets dont parlent les mathématiques ? Trois grandes positions ont structuré le débat depuis la fin du xixe siècle : le platonisme (les objets mathématiques existent indépendamment de l'esprit), le formalisme (les mathématiques sont manipulation réglée de symboles), l'intuitionnisme (les objets sont des constructions mentales). Les théorèmes d'incomplétude de Gödel (1931) ont reconfiguré le paysage.
La question
Les mathématiques semblent avoir des caractéristiques que les autres sciences n'ont pas. Leurs énoncés sont, pour la plupart, tenus pour nécessairement vrais — non contingents, non révisables sous le poids de l'expérience. Leur méthode est démonstrative : une fois prouvé, un théorème est définitivement acquis. Leurs objets — nombres, ensembles, fonctions — ne sont ni observables ni causalement actifs.
Comment expliquer cette singularité ? Si les objets mathématiques existent indépendamment de l'esprit, comment l'esprit y accède-t-il ? S'ils n'existent pas, comment expliquer la nécessité et l'objectivité des mathématiques ? La question, formulée sous différentes formes depuis Platon, a reçu au xxe siècle des réponses systématiques.
Le platonisme
Le platonisme mathématique soutient que les objets mathématiques existent indépendamment de l'esprit, dans un domaine abstrait à part. La connaissance mathématique consiste à découvrir des vérités sur ce domaine. Gottlob Frege (Die Grundlagen der Arithmetik, 1884 ; Grundgesetze der Arithmetik, 1893–1903) défend une variante logiciste : les mathématiques se réduisent à la logique pure, et leurs objets (les nombres comme classes d'équinuméricité) sont logiquement définissables. Le projet logiciste s'effondre avec le paradoxe de Russell (1901), qui montre une contradiction dans le système frégéen.
Kurt Gödel défend, à la fin de sa vie, un platonisme robuste : l'esprit a accès, par une faculté analogue à la perception, aux objets mathématiques. La position est métaphysiquement coûteuse mais elle articule fortement le réalisme et le caractère de découverte qu'a, intuitivement, la pratique mathématique.
L'objection classique (Benacerraf, « Mathematical Truth », Journal of Philosophy, 1973) est sérieuse : si les objets mathématiques sont causalement inertes, comment l'esprit, lui-même physique, peut-il en avoir connaissance ? Le platonisme contemporain (Maddy, Linsky-Zalta) tente d'y répondre par diverses voies.
Le formalisme
Le programme formaliste de David Hilbert (Über das Unendliche, 1925) tient les mathématiques pour la manipulation, selon des règles précises, de symboles dépourvus de signification intrinsèque. Les énoncés ne portent pas sur des objets : ils sont des séquences formelles. Hilbert lance, en 1900 (24e congrès international de Paris), un programme : démontrer la cohérence des mathématiques classiques par des moyens finitistes — utilisant seulement des manipulations symboliques élémentaires sur des objets finis.
Les théorèmes d'incomplétude de Kurt Gödel (1931) montrent que le programme, dans sa forme initiale, ne peut aboutir. Tout système formel suffisamment riche contient des énoncés vrais qu'il ne peut démontrer, et il ne peut démontrer sa propre cohérence par des moyens internes. Le formalisme peut subsister sous des formes affaiblies (Curry, Robinson), mais il ne peut plus prétendre à la fondation totale qu'Hilbert visait.
L'intuitionnisme
L. E. J. Brouwer (à partir de 1908) propose une troisième voie : les objets mathématiques sont des constructions mentales, et un énoncé n'est vrai que si l'on peut effectivement le construire ou en exhiber une preuve. Le tiers exclu (p ou non-p) n'est pas universellement valide : pour des énoncés portant sur des totalités infinies, on peut n'avoir ni preuve de p ni preuve de non-p, sans que cela autorise à conclure leur disjonction. La logique intuitionniste, formalisée par Heyting, restreint les inférences classiques.
Les mathématiques constructives qui en résultent sont plus restreintes mais éclairent par contraste les engagements ontologiques des mathématiques classiques. Errett Bishop (Foundations of Constructive Analysis, 1967) en a proposé un développement substantiel.
Indispensabilité
Quine et Putnam ont articulé, sous des formes voisines, un argument d'indispensabilité. Nos meilleures théories scientifiques (physique, biologie quantitative) recourent essentiellement à des entités mathématiques (nombres réels, fonctions, espaces vectoriels). Si l'on est réaliste sur ces théories, on doit être réaliste sur les entités qu'elles supposent indispensablement : les objets mathématiques sont indispensables à notre meilleure connaissance du monde, donc nous avons des raisons de croire à leur existence.
Hartry Field (Science Without Numbers, 1980) a tenté la voie inverse : reformuler la physique sans objets mathématiques abstraits. Le projet, ambitieux, n'a connu qu'un succès limité ; mais il a montré que la dépendance n'est pas, peut-être, aussi inéluctable qu'elle paraissait.
Le structuralisme
Stewart Shapiro (Philosophy of Mathematics: Structure and Ontology, 1997), Michael Resnik et d'autres défendent un structuralisme : ce sur quoi portent les mathématiques, ce ne sont pas des objets isolés mais des structures — patterns relationnels que les nombres, les groupes, les anneaux instancient. Le nombre 2, dans cette perspective, n'a pas d'identité indépendante de la place qu'il occupe dans la structure des entiers naturels. Le structuralisme se décline en versions modales, éliminativistes, ante rem.
Tradition française
La philosophie française des mathématiques, sous l'influence de Bachelard et de l'épistémologie historique, a privilégié l'analyse historique de la formation des concepts mathématiques : travaux de Cavaillès (Sur la logique et la théorie de la science, posthume 1947), de Lautman, plus récemment de Granger. Cette tradition entretient un rapport critique avec le formalisme et l'analyse logique anglo-saxonne.