Histoire de la théorie des fonctions de variables réelles

[3] L’objet de nos recherches depuis le 1e octobre 1949 a été l’histoire de la théorie des fonctions de variables réelles. On sait que pendant la première moitié du XIXe siècle la théorie des fonctions analytiques a constitué comme un modèle pour les théories de l’analyse. Pourtant la théorie reposait sur des hypothèses extrêmement restrictives concernant la nature des fonctions envisagées : continues, indéfiniment dérivables en chacun de leurs points, représentables par un développement en série de Taylor convergent. Or la nature, et même les phénomènes les moins complexes, n’offrent que peu d’exemples de fonctions remplissant ces conditions. Il n’y a, a priori, aucune raison pour que les fonctions qui permettent de traduire les phénomènes physiques soient analytiques. L’investissement de plus en plus important de l’’analyse mathématique dans la physique exigeait donc une reprise de la notion de relation fonctionnelle, une généralisation des opérations fondamentales déjà définies sur les fonctions usuelles : intégration, dérivation, représentation par un développement en série. C’est ce mouvement d’extension et de génér du domaine de l’analyse et généralisation de ces, dont on peut dire que les initiateurs furent Gauss, Cauchy, Bolzano et Abel que notre travail consiste à retracer doit s’efforcer de retracer.[5] La première tache était de déterminer quelles étaient, avant l’effort de Cauchy, les problèmes qui se posaient aux analystes ; quels étaient les instruments qui leur permettaient de les aborder ; quels étaient leurs critères de rigueur. Un tel problème ne pouvait se poser au niveau de la seule analyse mathématique. On ne peut en effet les résoudre sans essayer de comprendre le sens que les analystes donnaient à leurs démarches, l’efficacité et le degré d’objectivité <qui leur> [qu’ils leur] attribuaient. Autrement dit il fallait s’efforcer de dégager la forme de leur sensibilité face aux problèmes mathématiques : forme tellement différentes selon les conditions générales époques que tel raisonnement qui, fort satisfaisant aux yeux d’Euler, paraît à peine un raisonnement à Cauchy ou à Dirichlet. Il fallait donc essayer d’analyser, tout autant que les instruments qu’ils utilisaient ou perfectionnaient, la nature des obstacles qui limitaient leur horizon et leur faisaient ainsi leur attribuer à ces instruments une valeur universelle concevoir le maniement de ces instruments sous la forme d’une activité abstraite et universelle, en tout cas satisfaisante à leurs yeux. Bref la première tache était d’essayer de retracer la naissance des problèmes de rigueur : [7] pourquoi au début du XIXe siècle les mathématiciens deviennent-ils sensibles à la rigueur ? Un texte de Cauchy (Cours d’analyse de l’école Polytechnique, 1821, Introduction, §3) nous a servi de point de départ et nous a permis de préciser notre problème.« Quant aux méthodes, écrit Cauchy, j’ai cherché à leur donner toute la rigueur qu’on exige en géométrie, de manière à ne jamais recourir aux raisons tirées de la généralité de l’algèbre. Les raisons de cette espèce, quoique assez communément admises, surtout dans le passage des séries convergentes aux séries divergentes, et des quantités réelles aux expressions imaginaires, ne peuvent être considérées, ce me semble, que comme des inductions propres à faire quelque fois pressentir la vérité, mais qui s’accordent peu avec l’exactitude si vantée des sciences mathématiques. On doit même observer qu’elles tendent à faire attribuer aux formules algébriques une extension étendue indéfinie, tandis que, dans la réalité, la plupart de ces formules subsistent uniquement sous certaines conditions, et pour certaines valeurs des quantités qu’elles renferment » (Cauchy, Œuvres Complètes, 2e Série, Tome III, p.3).[9] Ce texte est abondamment commenté par toute l’œuvre mathématique de Cauchy. Les travaux de Cauchy sur les fonctions de variables complexes, ses travaux sur les critères de convergence des séries, pour nous borner à deux exemples, nous enseignent ce qu’il faut entendre ici par l’expression « rigueur qu’on exige en géométrie ». Il ne s’agit nullement d’un retour à l’ « intuition » géométrique. Il s’agit d’une analyse rigoureuse du comportement local des variables. Par exemple dans son célèbre mémoire de 1814 sur les intégrales définies, après avoir montré quelles sont les équations qui permettent le passage du réel à l’imaginaire, et après avoir tiré de ces équations un moyen général de transformation des intégrales définies doubles de la forme ∬v dx dz en intégrales définies, Cauchy se heurte à la difficulté suivante. D’où vient que dans certains cas on n’obtiendra pas le même résultat selon qu’on intègre d’abord par rapport à x et ensuite par rapport à z ou selon qu’on suit la marche contraire inverse ? Si l’on prend par exemple la différentielle de l’arc dont la tangente est xz on trouvera pour ∬v dx dz entre les limites 0 et 1 π4 en intégrant d’abord par rapport à z et -π4 en intégrant dans [11] l’ordre inverse. Recherchant la cause générale raison générale de telles anomalies, Cauchy est conduit à montrer qu’une telle qu’elle se produit produisent chaque fois que la fonction sous le signe ∫ devient indéterminée ou de la forme 00 pour les valeurs comprises entre les limites d’intégration. Or, s’écrit dit Cauchy lorsqu’une fonction d’une seule variable x se présente sous la forme 00 pour une certaine valeur a de la variable, elle n’est pas indéterminée, mais elle a pour valeur la limite dont elle s’approche sans cesse à mesure que x-a décroit. Au contraire, si une fonction de x et de z prend la forme 00 pour les valeurs x=a et z=b de ces deux variables, elle sera totalement indéterminée, et tendra vers des limites différentes, selon qu’en faisant décroitre simultanément les différences x-a et z-b, on établira entre ces deux différences tel ou tel rapport. Cependant ou obtiendra une limite déterminée si l’on néglige x-a relativement à z-b et une autre limite déterminée, mais différente de la première, si on néglige z-b relativement à x-a … Ainsi l’on peut dire que la fonction obtient deux valeurs différentes, mais toutes deux déterminées suivant [13] l’ordre dans lequel on substitue les valeurs de variables. Le problème se pose donc [ :] comment peut-on, dans le calcul, tenir compte de ces substitutions ? Plus précisément soit K=φ (x, z) une fonction de x et z qui devienne indéterminée pour les valeurs x=X et z=Z de ces deux variables, et soit l’intégrale indéfinie ∬dKdz dx dz prise entre les limites x=a', x=a'', z=b', z=b''. Supposons que les valeurs X et Z soient comprises entre les mêmes limites. Que devient la valeur de l’intégrale, lorsqu’on y substitue dans tous les éléments à la fois, les valeurs de X avant les valeurs de Z ?Cauchy résout le problème en énonça. démontrant le théorème suivant. Le problème consiste à trouver un moyen de corriger les erreurs provenant du changement dans l’ordre des substitutions. Cauchy l’a résolu par l’introduction des intégrales [15] singulières. Il remarque que l’erreur provenant du changement de la dans l’ordre des substitutions porte sur la partie de l’intégrale double correspondant à des valeurs très voisines de celles par lesquelles la fonction prend la forme indéterminée. « Nous sommes donc conduits, par ce qui précède, écrit-il, à considérer une espèce particulière d’intégrales définies dans lesquelles les limites relatives à chaque variable sont infiniment rapprochées l’une de l’autre, sans que pour cela les intégrales soient nulles » (Ib. p. 335). Autrement dit si, en substituant dans l’expression ∬dKdz dx dz les valeurs de z avant celles de x on obtient [:] ∫0a∫0b∂K∂z dx dz=∫0aK dx- ∫0ak dx (dans lequel on a k=K pour z=0) en substituant dans la même expression les valeurs de z avant celles de x x avant celles de z on doit obtenir [:] ∫0b∫0a∂K∂z dx dz=∫0aK dx- ∫0adx+A[17] avec A=-∫0εφ (X+ξ, Z+ζ)dξpour X=a' et Z=b', ε étant très petit et ζ devant s’annuler après l’intégration ; avec x=a'+ξ et z=b'+ζ.On voit sur cet exemple ce que Cauchy appelle la « rigueur qu’on exigence en géométrie ». Elle consiste à être attentif au comportement d’une fonction au voisinage de ses points de discontinuité et à franchir, en quelque sort, au moyen d’un passage à la limite, la barrière que constitue, pour l’opération d’intégration, la présence sur le chemin de l’intégration d’un point isolé de discontinuité.Un autre exemple serait fourni sur la démonstration que Cauchy donne du théorème suivant, soit f(x) une fonction. Ce même souci de poursuivre l’analyse d’une fonction pour ainsi dire portion par portion se manifeste dans la démonstration [19] analytique que Cauchy donne (Œuvres, 2e série, tom III, Note III) du théorème suivant :« Soit f(x) continue par rapport à x entre dans l’intervalle (a, b) et soit ζ un nombre compris entre f(a) et f(b) . On pourra toujours satisfaire à l’équation fx=ζ . Si f(a) et f(b) sont de signes contraires on pourra toujours satisfaire à l’équation fx=0 pour une ou plusieurs valeurs réelles de x comprises entre a et b ».La démonstration traditionnelle consistait à remarquer que la courbe y=f(x) devait nécessairement rencontrer une ou plusieurs fois la droite qui a pour équation fζ=0 [et] a<ζ<b.La démonstration analytique consiste à décomposer l’intervalle (a, b) en intervalles partiels de telle sorte qu’on obtienne :1) une série de valeurs croissantes de x : a, x 1 , x 2 … x i 2) une série de valeurs décroissantes de x : b, x 1 , x 2 … x i telles que Xi>xi et telles que Xi-xi<ε. Alors les suites 1 et 2 convergent vers une même limite ζ,fx1, fx2, …fxi…fX1, fX2, …fXi… convergent vers un même limite f(ζ). Et comme les termes xi et Xi restent toujours de signes contraires, on aura nécessairement fζ=0.Ainsi la rigueur a consisté à réinvestir dans le domaine abstrait qui est le qui constitue un champ d’intégration ou l’intervalle de variation d’une fonction quelconque, les opérations qui avaient atteint, dans le maniement des objets géométriques, un sens déjà défini, et les opérations qui, dans ce [23] domaine naïf avaient atteint un degré suffisant d’objectivité : par exemple, décomposer un intervalle donné segment donné en segments partiels de longueur arbitrairement petite ; considérer un point aussi voisin que l’on veut d’un point donné. La nécessité d’introd. de définir de nouveau d’introduire des formes nouvelles de rigueur devint urgente au moment où des objets nouveaux (fonction définie domaine dans lequel est définie une correspondance fonctionnelle de nature quelconque) devinrent source de problèmes mathématiques, se présentèrent aux mathématiciens comme intégrés au champ des opérations déjà définies de l’algèbre et de la géométrie traditionnelle. Cette analyse étude des méthodes de Cauchy, dont nous avons résumé l’essentiel et donné quelq., sur quelques exemples, indiqué le principe résumé l’essentiel, nous a conduit au résultat suivant. C’est que la nature de la rigueur Elle nous a permis de préciser, du moins pour l’époque de Cauchy, la nature du domaine d’expérience dans lequel se constitue cette forme particulière d’exigence que les mathématiciens appellent rigueur. La L’exigence de rigueur apparaît au moment où deux domaines d’objectivité ?? se séparent, au moment où et pour ainsi dire après s’être séparés, se rassemblent à nouveau, [25] s’affrontent dans le même objet la même opération. Chacun de ces domaines d’objectivité est situé à un certain étage de l’expérience et possède sa vie propre : par exemple le champ de validité des opérations de l’ « algèbre », au sens de Cauchy, est à un autre étage que le champ des opérations de la géométrie : le second est plus archaïque et ouvert dans un domaine inépuisable d’intuition ; le premier est plus neuf et se présente comme fermé par le système des règles opératoires, à tel point que l’expression y=log⁡x et y=log⁡z, dans laquelle z=ζ+iη, ont le même sens opératoire et sont, aux yeux de l’ « algébriste » (Euler par exemple) strictement substituables. L’exigence d’une rigueur nouvelle apparaît au moment où les opérations définies à l’étage plus récent (par exemple l’opération d’intégration) prennent un sens parmi les objets définis à l’étage archaïque : ce qui veut dire c'est-à-dire au moment où le mathématicien aperçoit qu’il y a dans l’opération qu’il définit beaucoup plus que ne comporte la définition permise par le jeu des règles opératoires. Un nouveau domaine se constitue ainsi pas à pas sous les yeux du chercheur, domaine dans lequel il fait l’épreuve de sa sensibilité mathématique : le domaine ancien est repris [27] dans les exigences en fonction des exigences du nouveau et dès l’instant où il est repris il fait éclater ces exigences. Mais il reparait alors, transformé par la médiation des exigences qu’il a détruites : sa naïveté première tombe dans l’oubli. De domaine objectif déterminé dans un champ d’intuition ouvert, il devient domaine déterminable, domaine dans lequel les règles opératoires dominent les objets domaine dans lequel la richesse de l’objet sert de médiation pour la définition détermination de la règle qui permet d’atteindre l’objet et la forme de la règle de médiation pour définir la richesse comme caractéristique de l’objet. C’est ainsi qu’il ne suffira plus de remplacer x par z=ζ+iη dans l’expression y=f(x) pour que f(z) soit une fonction déterminée, une fonction invariable de z (par exemple une fonction uniforme) de z. Le domaine de variation de f(z) étant un plan si z0 est une valeur de z dans le plan et z1un point du plan, pour montrer que f(z) est une fonction uniforme de z il nous faut suivre pas à pas la variation de f(z) à partir de z0 et montre que, quelque soit le chemin choisi par aller de z0 à z1 nous obtenons [29] toujours au point z1 une seule et même valeur de f(z). Par dessus le champ opératoire de l’algèbre (qui donne sens à l’express. dans lequel seulement prend sens l’expression z=ζ+iη) apparaît le domaine archaïque : le domaine d’intuition, le plan dans lequel f(z) prend ses valeurs ; et la propriété que de z0 à z1 il existe une infinité de chemins possibles est saisie comme une propriété naïve de ce domaine d’intuition. Mais du fait que le plan est saisi pensé comme domaine de variation de f(z), il est de nouveau ressaisi, non plus comme champ d’intuition, mais comme système des chemines possibles pour la fonction f(z). Il est remanié par les opérations que l’on sait devoir le système des exigences propres aux opérations que l’on sait devoir effectuer sur la fonction f(z) : dérivation en chaque point ; représentation par un développement en série etc. Le plan devient sous les yeux du mathématicien un lieu de devenir réglé. Les détermination naïves n’ont plus de sens maintenant qu’en fonction des opérations qui sont définies sur elles : il est nécessaire à chaque moment de les reprendre pour les confronter avec les opérations qu’elles soutiennent et cette confrontation retentit dans [31] les opérations elles-mêmes sous la forme d’exigences nouvelles : la propriété naïve du plan que deux de ses points peuvent être rejoints par une infinité de chemins retentit dans la définition de la fonction f(z) : elle oblige à définir les précisément les conditions d’uniformité. C’est cette vie propre et cette liaison des couches superposées d’expérience, présentes dans la même opération, qui ont paru constituer le terrain de naissance de l’exigence de rigueur. Par là se trouvait précisée notre problème historique la nature de notre problème historique. Ce problème est un problème de genèse. Il n’est n’était nullement question pour nous de décrire le chemin qui mène d’Euler à Cauchy tout simplement le chemin qui mène d’Euler à Cauchy. Une telle description ne saurait nullement faire comprendre le passage de l’un à l’autre. Notre problème était plutôt de saisir à quel moment le domaine d’objectivité de l’ « algèbre » [33] (au sens de Cauchy, i.e l’analyse eulérienne) a été brisé par le retour à la couche plus ancienne d’objectivité (celle de la géométrie, au sens Archimédien du mot). A quel moment il est devenu sensible l’exigence pour les opération du « calcul » de n’a. d’acquérir un sens dans opératoire dans la couche la plus ancienne d’objectivité. Rechercher autrement dit à quel moment cette couche a été réveillée par le maniement des opérations du calcul. Car il était bien évident qu’à nos yeux la représentation de l’intégrale définie par une aire, la représentation de la dérivée par le coefficient en un point par le coefficient angulaire de la tangente en ce point à la courbe en ce point ne constituaient à aucun degré un moyen de réveiller la couche archaïque de la géométrie. Il apparaît clairement qu’un tel mode. Bien au contraire. L’étude du développement du calcul infinitésimal (particulièrement dans l’œuvre de Leibniz) nous a convaincu du fait suivant et de Newton) nous a convaincu du fait suivant : ce développement n’a été possible d’une manière systématique qu’à partir du moment [35] où les méthodes de la géométrie cartésienne atteignirent un degré d’universalité tel que tout objet naturel apparaît d’avance enveloppé dans le champ des opérations caractéristiques de cette géométrie. Mais comme l’algèbre était le moyen de cette universalisation, la couche la plus ancienne de l’objectivité mathématique, celle de la géométrie, se trouva enfouie sous la détermination algébrique. Que y=ax+b soit une droite cela veut dire que la droite est donnée en totalité dans son équation. Le libre devenir de ces points, la richesse qu’elle peut contenir se trouvent dépassés et rejetés dans l’oubli par la loi qui les exprime. De même que ∫abfxdx représente l’aire compris entre l’axe des x et la courbe et limitée par les parallèles à l’axe des y menées à partir des points d’abscisse a et b, cela implique que l’aire soit donnée en totalité par l’expression∫abfxdx, sans que jamais soit présente la richesse du contenu qui effectivement constitue cette aire. Loin d’impliquer d’appeler à la vie la couche archaïque, [37] la représentation géométrique des opérations du calcul infinitésimal consistait bien au contraire à laisser cette couche muette sous la loi. C’est en vue de mettre en évidence cet éveil que nous avons poursuivi l’étude des prédécesseurs de Cauchy. Deux ordres de problèmes ont principalement retenu notre attention dans l’ « analyse » du XVIIIe siècle. 1°) Le problème de l’intégration des équations différentielles 2) le problème de la représentation des fonctions par un développement en série. Le premier problème est important parce que, comme le remarque Laplace à la fin du siècle, il peut se faire qu’une fonction différentielle simple admette pour intégrale une fonction, comme dit Laplace « beaucoup plus composée » et que le problème de la détermination de l’intégrale générale exige par là une étude attentive du chemin d’intégration. Le second problème est aussi important parce qu’il a conduit directement à l’étude des critères de convergence dès l’instant où il devenait nécessaire de préciser pour quelle valeur et entre quelles limites une fonction arbitrairement [39] donnée pouvait être représentée au moyen d’un développement en série.Le problème de l’équation des cordes vibrantes a constitué le lieu dans lequel ces deux problèmes se sont rencontrés et reliés. C’est dans cet esprit et en vue de déterminer le moment où est née l’exigence de rigueur au sens où nous l’avons précisé plus haut que nous avons poursuivi l’étude des ouvrages et des mémoires suivants :