Pour imprimer ce texte avec une meilleure mise en page, vous pouvez télécharger l'un des fichiers suivants : Télécharger fichier "rtf" (pour Word) Télécharger fichier "pdf" (pour Acrobat)

Pour découvrir le nouveau site
de Thomas Lepeltier

COMMENT  CANTOR  INTRODUISIT
L'INFINI  EN  MATHÉMATIQUE

à propos de :

Cantor de Jean-Pierre BELNA Les Belles Lettres (Figures du savoir), 2000.

       L'infini existe-t-il ? Si oui, y a-t-il un seul ou plusieurs infinis ? S'il y en a plusieurs, comment les distinguer et les comparer ? Un infini, par exemple, peut-il être plus grand qu'un autre infini ? Questions difficiles mais questions fondamentales. Ne dit-on pas souvent que l'univers est infini tout simplement parce que l'on n'arrive pas à concevoir qu'il soit fini ? Qu'y aurait-il après, demande-t-on ? Mais accepter un infini en acte, c'est-à-dire qui existe réellement, ne va pas sans soulever certains paradoxes. Cela exige, entre autres, qu'on remette en cause l'idée qu'une totalité est nécessairement plus grande que ses parties ! Si, en effet, pour prendre un exemple simple, on considère la suite des entiers positifs (1,2,3...) et celle de leurs carrés (1,4,9...), il est aisé de remarquer que le deuxième ensemble est une partie du premier. Mais, étant donné qu'on peut associer à chaque entier de la première suite un entier de la deuxième de manière à ce que tous les termes de la première suite soient appareillés à un unique terme de la seconde, et réciproquement (par exemple, 1 à 1, 2 à 4, 3 à 9...), il faut aussi conclure que les deux ensembles ont la même « taille ». D'où le paradoxe en question : le deuxième ensemble est inclus dans le premier, bien que les éléments des deux ensembles puissent être appareillés les uns aux autres; c'est-à-dire, que dans le cas de cet ensemble infini des entiers, le tout n'est pas plus grand qu'une de ses parties. Voilà pourquoi de nombreux penseurs ont considéré que l'infini en acte n'existait pas. Seule était admise, suivant la distinction d'Aristote, l'existence d'un infini potentiel, au sens d'une possibilité idéale jamais réalisée.
        Toutefois, l'idée que l'infini ne soit qu'une négation du fini, sans existence réelle, avait aussi, si l'on peut dire, ses limites. Sur le plan théologique, comment ne pas attribuer l'infinité à Dieu ? Sur le plan cosmologique, comment limiter l'extension de l'univers ? Et en mathématique, comment parler rigoureusement d'une entité qui tendait vers l'infini si ce dernier n'existait pas ? Certains penseurs ressentirent donc la nécessité d'affirmer l'existence de l'infini actuel tout en évitant les paradoxes. Le premier pas dans l'histoire moderne des mathématiques fut effectué par Bernard Bolzano (1781-1848). Il consista tout simplement à considérer que ce que d'aucuns tenaient pour paradoxal était le propre de l'infini. Pourquoi en effet affirmer que ce qui était paradoxal pour le fini l'était aussi pour l'infini ? À nouveaux objets, nouveaux principes. Mais le pas décisif fut franchi par l'Allemand Georg Cantor (1845-1918) qui introduisit pour la première fois l'idée de nombres infiniment grands (appelés « transfinis ») et qui fonda ainsi une nouvelle arithmétique. L'infini n'était plus cet horizon énigmatique auquel se confrontaient mathématiciens et métaphysiciens : il devenait un simple symbole pour calculs mathématiques. L'homme, malgré sa finitude, pouvait enfin concevoir l'infini. Comprendre comment s'est opérée cette géniale avancée est ce à quoi nous invite Jean-Pierre BELNA dans ce livre qui présente en ordre chronologique, et avec un réel souci de clarté, les travaux de Cantor (voir sommaire). Cette présentation illustre à quel point il peut être pertinent de retracer l'histoire des concepts pour en faire l'analyse logique.

        On pourrait faire commencer l'histoire de l'infini par la découverte, il y a 2500 ans, des nombres irrationnels, c'est-à-dire des nombres qui ne peuvent s'écrire sous forme de fractions. L'événement fit scandale, dit-on. Un pythagoricien aurait montré qu'il n'était pas possible d'établir la longueur de la diagonale d'un carré par un nombre entier ou par un nombre rationnel (l'ensemble N des entiers est l'ensemble {1,2,3,4...} et l'ensemble Q des rationnels est l'ensemble des nombres qui peuvent se mettre sous la forme p/q où p et q sont des entiers positifs ou négatifs). Or, jusqu'au XIX^e siècle, il n'exista pas de définition rigoureuse -- arithmétique -- de ces irrationnels et par là même des réels (l'ensemble des nombres rationnels complété par l'ensemble des nombres irrationnels constitue l'ensemble R des réels : on a donc N ÃQÃR mais seuls sont généralement considérés comme « donnés » l'ensemble des entiers et l'ensemble des rationnels). C'est alors que sous l'influence de Karl Weierstrass (1815-1897) on commença à définir ces irrationnels qui posaient problème comme limites de certaines suites de rationnels, à l'exemple de la suite 1-1/3+1/5-1/7+1/9... qui « tend » à l'infini vers p/4, où p est bien sûr un nombre irrationnel. Avec cette notion de limite, il semblait certes possible de s'appuyer sur Q pour fonder l'ensemble des irrationnels, mais il fallait toutefois considérer la suite infinie de rationnels comme une totalité achevée, ce que certains mathématiciens, comme Leopold Kronecker (1823-1891) -- le grand adversaire de Cantor --, n'acceptaient pas. Et puis, comment définir les irrationnels comme limites de certaines suites de rationnels alors que ces dernières n'avaient justement pas de limites dans Q ? C'est-à-dire, comment justifier le passage à la limite, comment justifier la « sortie » de Q ?
       En tout cas, c'est cette définition du nombre irrationnel comme limite d'une suite de nombres rationnels que reprit et approfondit Cantor en 1872 (sa première publication date de 1870). Mais le problème du passage à la limite, et donc de l'infini dont il reconnaissait l'existence, n'était pas clairement posé. Cette tentative pour définir les réels à partir des rationnels l'amena toutefois à réfléchir sur les différences qu'il pouvait y avoir entre N, Q et R. D'abord, il établit qu'il existait une bijection entre N et Q, c'est-à-dire qu'à tout élément de N on pouvait faire correspondre un et un seul élément de Q et réciproquement. On disait alors que Q était dénombrable. Avec R le problème était plus compliqué. Mais en 1873, Cantor établit une première démonstration du fait qu'il était impossible d'établir une bijection entre R et N. Le résultat était important puisqu'il permettait d'établir -- si on reconnaissait l'existence de l'infini, bien sûr -- qu'il existait plusieurs infinis, au moins deux : l'infini du continu pour R et l'infini du dénombrable pour N. Immédiatement après, Cantor s'intéressa à la relation qui pouvait exister entre R et R², autrement dit entre une ligne et une surface, ou encore une droite et un plan. Mais c'est seulement en 1877-78, qu'il établit l'existence d'une bijection entre R et R², et même Rⁿ. Contrairement à ce que l'intuition semblait indiquer, on pouvait donc faire correspondre à chaque point du plan, un point différent d'une ligne. C'était la notion même de dimension d'un espace qui perdait un peu de son sens. En tout cas, Cantor établissait ainsi les bases de sa théorie des nombres transfinis. Deux ensembles étaient reconnus comme équivalents si on pouvait établir une bijection entre eux ; Cantor disait alors qu'ils avaient la même puissance. Et, suivant en cela une idée de Richard Dedekind (1831-1916), Cantor définissait un ensemble infini comme un ensemble à partir duquel on pouvait établir une bijection avec un de ses sous-ensembles. C'était là se détacher de l'axiome affirmant que « le tout est plus grand que la partie » ; c'était même prendre le problème à l'envers et affirmer que les ensembles infinis étaient justement des ensembles qui n'étaient pas plus « grands » que certaines de leurs parties. L'infini n'était plus une négation du fini, il était défini positivement ; c'est-à-dire qu'un ensemble infini n'était plus conçu comme un ensemble où l'on pouvait indéfiniment ajouter un élément mais comme un ensemble qui formait un tout. Cela permit à Cantor d'établir, comme on l'a vu, l'existence de deux types d'infinis : l'infini des ensembles dénombrables (en bijection avec N) et l'infini des ensembles continus (en bijection avec R). Enfin, il formulait pour la première fois l'hypothèse du continu, c'est-à-dire qu'il supposait que la puissance du continu succédait immédiatement à la puissance du dénombrable ou, autrement dit, il supposait qu'il n'y avait pas d'autre infini entre l'infini de N et l'infini de R. Il renvoyait toutefois la démonstration à plus tard.
       Après ces premiers pas importants, il fallut attendre 1883 pour voir apparaître sous la plume de Cantor la notion de nombre transfini, nombre conçu comme une extension « par delà l'infini » du concept de nombre entier. De quoi s'agissait-il ? Sur le modèle des ensembles finis qui contenaient un nombre entier d'éléments, Cantor cherchait à définir un « nombre » d'éléments pour les ensembles infinis. Mais il lui fallait pour cela établir une distinction entre nombre cardinal (ou puissance) et nombre ordinal. La première notion ressortissait à l'opération de compter les éléments d'un ensemble, opération indifférente à leur ordre; la deuxième ressortissait à l'opération de les énumérer selon leur ordre. Ces deux notions sont bien sûr confondues dans le fini : quelle que soit la façon d'énumérer les éléments d'une collection finie, le dernier élément énuméré, disons le n-ième, marque en même temps le nombre d'éléments de la collection, c'est-à-dire n. Mais ce n'est plus le cas dans l'infini. Soient, par exemple, les deux ensembles N= {1,2,3,4,...} et N'= {2,3,4,...,1} qui contiennent les mêmes éléments rangés différemment : ils ont donc le même cardinal, mais des ordinaux différents puisque pour les énumérer de la même manière il faudrait pouvoir établir une bijection respectant l'ordre de leurs éléments. Or, quelle peut être l'image de « 1 », le dernier élément de N', dans l'ensemble N, puisque ce dernier n'a pas de dernier élément ? Cette distinction permettait à Cantor d'introduire la notion de nombre transfini en désignant par « w » l'ordinal de N : c'était en quelque sorte le plus grand nombre de la suite (1,2,3,...), comme « 4 » était le plus grand terme de l'ensemble {1,2,3,4}. Quant au nombre ordinal de l'ensemble N' il n'était autre que « w + 1 ». Cantor avait ainsi franchi un nouveau pas en considérant les ordinaux d'ensembles infinis comme de véritables nombres. Il pouvait commencer à établir les règles de calcul des ordinaux (par exemple, 1 + w = w puisque rajouter un élément au début d'une suite infinie ne changeait pas la manière d'énumérer ce nouvel ensemble ; en revanche w + 1 n'était pas égale à w  puisque cette fois-ci l'élément rajouté après les autres éléments de la suite faisait que le nouvel ensemble possédait un dernier élément). Dès l'année suivante, en 1884, il franchit une étape supplémentaire en considérant que les cardinaux d'ensembles infinis étaient aussi de véritables nombres. Mais Cantor ne sut pas se départir d'une certaine ambiguïté. D'un coté, il reconnaissait que sa théorie des ordinaux était nécessaire au développement de celle des cardinaux, c'est-à-dire qu'elle lui était théoriquement prioritaire, mais, d'un autre côté, il abordait le problème comme si la cardinalité avait la primauté, comme en témoigne sa présentation « définitive » qui date des années 1895-1897.
       Cette ambiguïté explique d'une certaine manière que la théorie des cardinaux ne fut pas menée à son terme et aussi rigoureusement qu'elle l'aurait mérité par Cantor. Quoiqu'il en soit, il avait déjà établi que deux ensembles infinis avaient le même cardinal, ou la même puissance, s'il existait une bijection de l'un sur l'autre. Ainsi, l'ensemble des nombres entiers et l'ensemble de leurs carrés avaient le même cardinal. Ce cardinal, appelé Card N, fut alors noté ¿₀ (le symbole ¿ -- aleph -- étant la première lettre de l'alphabet hébreu). Tout autre ensemble en bijection avec N avait donc aussi pour cardinal ¿₀. Dès lors qu'était disponible un symbole pour désigner l'infini, Cantor pouvait établir comme pour les ordinaux une nouvelle arithmétique. Étant donné qu'ajouter un élément (respectivement n éléments) à un ensemble infini ne changeait pas son cardinal, il pouvait écrire : ¿₀ + 1 = ¿₀ (respectivement ¿₀ + n = ¿₀) ; ensuite, Cantor traduisait le fait que la réunion de deux ensembles dénombrables formait un autre ensemble dénombrable par l'équation suivante : ¿₀ + ¿₀= ¿₀ ; il pouvait aussi établir, en comparant l'ensemble des nombres pairs, par exemple, et l'ensemble des entiers, la relation : ¿₀/2= ¿₀ ; et en généralisant, il obtenait ¿₀/n= ¿₀, etc. Mais Cantor ne pouvait pas en rester là. Il se demandait ensuite comment construire la suite croissante des alephs, et en premier lieu la suite ¿₀,¿₁,¿₂,...,¿_n,... où chaque terme était immédiatement supérieur au précédent. Il prévoyait de démontrer ultérieurement l'existence de ¿_w, l'aleph immédiatement supérieur à tous les ¿_n (comme w était immédiatement supérieur à tous les entiers finis). ¿_w+1 résulterait ensuite de ¿_w, et ainsi de suite. Mais pour cela, il lui fallait développer, comme on l'a dit, la théorie des ordinaux, c'est-à-dire une théorie des nombres transfinis qui prenne en compte la notion d'ordre. Pour le moment, il devait se contenter de résultats obtenus à partir d'une analyse du cardinal de l'ensemble des parties d'un ensemble : pour un ensemble F contenant n éléments, le nombre de parties de F, P(F), est 2ⁿ, soit Card P(F) = 2ⁿ; ainsi, à partir d'un ensemble quelconque E infini, on peut construire un nouvel ensemble ayant un cardinal supérieur, à savoir l'ensemble des parties de E, P(E) ; en particulier, l'ensemble des parties de N a pour cardinal 2^¿0; en réitérant la procédure on construit une suite d'alephs tous distincts les uns des autres ¿₀, 2^¿0, 2^2¿0... Cette étape dans la construction des nombres infinis était importante puisqu'elle montrait qu'il existait effectivement une infinité d'infinis, mais rien ne disait si 2^¿0 était immédiatement supérieur à ¿₀, c'est-à-dire que rien ne disait si cette suite épuisait tous les cardinaux infinis, et en l'occurrence Cantor ne pouvait établir -- après avoir montré que Card R= 2^¿0 -- si Card R= ¿₁ (il retombait ainsi sur l'hypothèse du continu formulée quelques années plus tôt).
       À ces lacunes de la théorie des nombres transfinis s'ajoutait le fait qu'à partir de 1895 Cantor fut confronté à un certain nombre de paradoxes, dont les plus connus sont les suivants. Si l'on considère l'ensemble E de tous les ensembles, l'ensemble des parties de E a un cardinal inférieur à celui de E (Card P(E) £ Card E) puisque E le contient par définition. Mais d'après ce que Cantor venait d'établir sur l'ensemble des parties d'un ensemble (cf. ci-dessus) on a aussi Card P(E) > Card E. D'où la contradiction. L'autre paradoxe fut formulé par le mathématicien Cesare Burali-Forti (1861-1931) : l'ensemble W de tous les ordinaux devrait avoir un ordinal a strictement supérieur à tous les éléments de l'ensemble en question (comme w est supérieur à tous les éléments de N), c'est-à-dire, vu la définition de W, à a lui-même. D'où à nouveau contradiction. C'était là autant de paradoxes qui marquaient le début de ce que l'on appelle depuis lors la crise des fondements en mathématique. C'est que la définition classique d'un ensemble donnée par Cantor -- « un ensemble est un groupement en un tout d'objets bien distincts de notre intuition et de notre pensée » -- n'était pas suffisamment précise pour échapper à des contradictions. Mais le génie créateur de Cantor touchait à sa fin vers les années 1900. Il n'allait pratiquement plus publier jusqu'à sa mort en 1918. Et il revint à d'autres, notamment Ernst Zermelo (1861-1931) et Bertrand Russel (1872-1970), de modifier sa théorie des ensembles pour la rendre plus rigoureuse, sans que pour autant tous les doutes concernant le concept d'infini soient supprimés.
       En tout cas, pour écrire la suite de cette histoire de l'infini, il faudrait se tourner vers l'Allemand David Hilbert (1862-1943). Voulant relever les mathématiques de la crise de leurs fondements, ce dernier en développa une conception formaliste, c'est-à-dire une conception où l'on s'attachait à montrer la non-contradiction des axiomes d'une théorie, sans se soucier de ce qu'ils pouvaient représenter, avant d'en tirer toutes les conséquences. Ainsi pour parler de façon cohérente d'infini, Hilbert considérait qu'il devait commencer par montrer que le système d'axiomes fondant l'arithmétique des nombres entiers n'était pas un système contradictoire. Ce problème lui paraissait si important que lors du II^ieme Congrès International de Mathématique (1900, Paris), il le mit en second -- juste après la question du continu (y a-t-il un infini entre celui de N et celui de R ?) -- de la liste des vingt-trois problèmes que les mathématiciens du XX^e siècle auraient à résoudre d'après lui. Les réponses furent données en deux temps, par deux hommes. L'Autrichien Kurt Gödel (1906-1978) démontra d'abord, en 1938, que dans une théorie axiomatique suffisamment riche pour contenir la structure arithmétique de nombres entiers, c'est-à-dire une théorie qui possédait les axiomes définissant N, on pouvait toujours trouver une proposition qui n'était ni une conséquence des axiomes, ni en contradiction avec eux. Ce résultat prouvait que dans n'importe quelle théorie mathématique contenant les axiomes fondant l'arithmétique, il existait des propositions que l'on ne pouvait ni prouver ni réfuter, bref des propositions qui étaient indécidables. Les mathématiques perdaient leur statut binaire (le vrai et le faux) et s'enrichissaient d'une nouvelle potentialité, l'indécidable. Ce fut ensuite l'Américain Paul Cohen qui démontra, en 1963, que l'hypothèse du continu était une des propositions indécidables de la théorie des ensembles : on ne pouvait ni répondre par l'affirmative ni par la négative. Autrement dit, on ne pouvait savoir s'il existait un infini intermédiaire entre celui de N et celui de R. Ce résultat rendait compréhensibles rétrospectivement les difficultés qu'avait rencontrées Cantor en essayant de le démontrer. Et il témoignait aussi de la fécondité qu'avait eue sa théorie des nombres transfinis au sein des mathématiques du XX^e siècle.

       Arrêtons toutefois cette histoire sur cette postérité des nombres infiniment grands et, pour conclure, revenons sur Cantor : sur sa conception de l'infiniment petit d'abord, sur l'homme ensuite. Après cette présentation succincte de la théorie cantorienne des nombres infinis il serait en effet dommage de ne pas dire un mot -- sans parler des controverses qu'elle suscita -- de sa conception des nombres infiniment petits. Car si Cantor a été en quelque sorte un révolutionnaire pour les premiers, il est resté d'un autre côté très conservateur en refusant de reconnaître aux seconds le droit à l'existence. Sa motivation dans ce refus était qu'il aurait alors fallu remettre en cause l'axiome d'Archimède qui affirmait que, pour deux réels positifs a et b tels que a < b, il existait un entier n tel que na > b. Autrement dit, si les nombres infiniment petits existaient, ils seraient plus petits que 1/n, pour tout entier n fini. Or, Cantor s'appuyait sur cet axiome pour fonder sa théorie des transfinis. Mais ce qu'il ne « voyait » pas était que cet axiome n'était pas à proprement parler un axiome, mais un théorème, et qu'il était possible de construire une théorie des transfinis non archimédienne. Cela demandait toutefois que l'on modifie sa théorie du continu : pour Cantor, les nombres réels n'étaient constitués que de rationnels et d'irrationnels, c'est-à-dire que Cantor n'admettait pas l'idée qu'il puisse y avoir un continu « plus continu » que le sien. Or, il était tout à fait possible de considérer qu'autour des nombres réels « standards » existaient des nombres infiniment petits. Amorcée dès l'époque de Cantor par certains de ses contradicteurs, cette théorie ne fut vraiment développée qu'à partir des années 1960 par Abraham Robinson (1918-1974) sous le nom d'analyse non standard.
       Reste à dire un mot sur l'homme, pour finir. Il n'est pas sans intérêt de savoir à la fois que Cantor, après y avoir passé de nombreux séjours, mourut dans un hôpital psychiatrique et aussi qu'il était très préoccupé par les problèmes théologiques. Certains n'hésiteront pas à relier ces particularités à son génie créateur en mathématique et à faire de Cantor un mystique « brûlé » par sa propre découverte de l'infini. C'est peut-être le cas. Mais, comme Jean-Pierre Belna essaye de le montrer en analysant ces différents aspects de la vie et de l'oeuvre de Cantor, rien ne permet d'établir un lien aussi serré entre eux. Évitant le piège d'une histoire « romantique » qui donnerait plus que sa part à la « folie » et au mysticisme d'un homme, il nous offre ainsi une histoire certes plus sobre, mais vraisemblablement plus instructive.

Thomas LEPELTIER,
le 27 avril 2000.

Retour
 

Sommaire Repères chronologiques Notations Introduction I. Une vie de mathématicien II. Limite et irrationnel III. Puissance et dimension IV. Typologie de la droite V. Des nombres infinis VI. Une idée de l'infini et des mathématiques Conclusion Glossaire Indications bibliographiques 240 pages ISBN 2-251-76024-5 44 FF (2000)