Mesurer les surfaces est un des problèmes les plus anciens des mathématiques : la mesure d’un rectangle est comprise par les enfants ; celle de l’aire limitée par un cercle est déjà plus difficile, ce qui se traduit par la complexité du nombre pi. Mais les choses peuvent devenir bien plus dures, même pour des surfaces planes limitées par des courbes : il fallut attendre le XVIIe siècle avec Newton et Leibniz pour qu’on sache traiter autre chose que des cas particuliers et le début du XXe pour comprendre le cas général, quand les surfaces sont limitées par des courbes éventuellement bizarres.
C’est le mathématicien français Henri Lebesgue qui, dans sa thèse soutenue en 1902, donna cette notion générale de surface, ce qu’on appelle maintenant l’intégrale de Lebesgue, enseignée dans toutes les universités du monde. La difficulté qu’il avait su formuler puis surmonter tenait à l’existence de fonctions très irrégulières, très discontinues, dont l’importance, voire même l’existence n’étaient bien comprises que depuis les travaux sur les fondements des mathématiques de la fin du XIXe siècle.

Lebesgue était né à Beauvais en 1875, fils d’ouvrier typographe mort prématurément de la tuberculose. Une scolarité brillante le mena à l’Ecole normale supérieure en 1894. C’est alors qu’il enseignait au lycée, à Nancy, qu’il rédigea son doctorat. L’importance de son travail fut reconnue dès sa thèse, et il put amorcer une carrière universitaire qui le mena à Rennes, Poitiers puis à la Faculté des sciences de Paris, avant d’être nommé professeur au Collège de France en 1921. Il mourut en 1941.

Lebesgue, après le succès de sa thèse, voulut mesurer des surfaces non planes : la surface d’une boule de papier froissé, la surface d’une montagne escarpée… C’est une question bien plus difficile qu’il n’y paraît. La solution proposée par Lebesgue fut fortement critiquée, et ne répondait que très partiellement à la question posée.
Plusieurs autres mathématiciens s’intéressèrent à cette question : Hausdorff fut amené à généraliser la notion simple de dimension : au lieu d’avoir des espaces de dimension 1 (une droite, une courbe), 2 (un plan, une surface), 3 (un volume), il fit apparaître des objets de dimension intermédiaire, entre 1 et 2, ou entre 2 et 3… Besicovitch construisit un ensemble incroyable, ressemblant à une tuyauterie très compliquée — qui montrait les limitations de la méthode de Lebesgue. Finalement, c’est le mathématicien italien Leonida Tonelli qui trouva en 1926 une caractérisation satisfaisante des surfaces ayant une aire, conséquence un peu indirecte de ses recherches sur les surfaces minimales (la forme d’une bulle de savon).
On peut penser que ce genre de considérations n’a guère d’intérêt pratique : des mathématiciens faisant des choses parfaitement inutiles pour l’amour de l’art. Pour l’amour de l’art : oui ! Mais inutile : non ! L’intégrale de Lebesgue est en effet l’outil de base de la théorie moderne des probabilités, avec d’innombrables applications ; la théorie des surfaces minimales a de nombreuses applications dans les sciences de l’ingénieur ; et, comme cela a été compris tout récemment, les idées de Tonelli de 1926 ont une grande importance en traitement d’images.