La théorie des ensembles, formalisée autour de 1900, est aujourd’hui considérée par l’immense majorité des mathématiciens comme le bon fondement des mathématiques. Elle a pour objet, notamment, de fournir des outils qui permettent de manipuler des ensembles dont le nombre d’éléments est infini.

L’AXIOMATISATION

Jusqu’au milieu du xixe siècle, les mathématiciens utilisaient ce que l’on pourrait appeler une « théorie intuitive » des ensembles, sans avoir besoin d’en donner une définition précise, car ils ne travaillaient qu’avec des ensembles finis. C’est le mathématicien Georg Cantor qui le premier (avec Dedekind) structure une véritable théorie des ensembles, en s’appuyant sur le concept primitif d’« appartenance » à un ensemble, et qui permet de comparer les ensembles infinis (l’ensemble des réels est plus « grand » que l’ensemble des entiers naturels, par exemple). Cette nouvelle « théorie des ensembles » créa une véritable crise au sein des mathématiques, car elle remit en question les fondements mêmes des mathématiques et engendra certains paradoxes. Il faudra attendre l’axiomatisation de Zermelo et Fraenkel pour que la crise s’apaise et que les paradoxes disparaissent, si bien que la théorie axiomatique des ensembles est aujourd’hui considérée comme un véritable fondement des mathématiques.

ENSEMBLE, COLLECTION ET ÉLÉMENTS

Un ensemble est une collection d’objets non ordonnés, objets que l’on appelle « éléments ». On dit qu’un élément a appartient à l’ensemble A si A contient l’élément a. On dit égale ment que l’ensemble est fini si son nombre d’éléments est fini, infini sinon. Un sous-ensemble de A contient certains éléments de A (peut-être pas tous). L’ensemble vide, noté Ø, est un ensemble ne contenant aucun élément. À partir de ces quelques définitions, il est possible de définir les opérations sur les ensembles : le produit cartésien, la différence, le complémentaire, l’intersection ou encore l’union. On peut également définir le cardinal d’un ensemble fini A (noté #A ou Al) comme le nombre d’éléments de A. Il est possible de comparer les cardinaux de deux ensembles finis (cela reste vrai pour les ensembles infinis, même si la notion de cardinal est un peu plus subtile) en utilisant le concept de « fonction d’un ensemble vers l’autre », qui assigne un élément d’un ensemble vers l’autre.

FORMALISER LES CONNAISSANCES MATHEMATIQUES

La théorie des ensembles est ainsi une tentative de formalisation, dans un système d’axiomes assez simples et si possible intuitifs, de l’ensemble des connaissances mathématiques. En particulier, l’essentiel de l’analyse ou de l’arithmétique se déduirait de façon élémentaire de cette axiomatique. L’objectif premier de cette axiomatisation de la théorie des ensembles était de supprimer les aberrations liées aux notions intuitives d’ensembles et d’appartenance. Plusieurs axiomatiques ont été, au cours de l’histoire des mathématiques, proposées. Celle que la communauté des mathématiciens retient aujourd’hui est celle que l’on appelle « axiomatique ZF », du nom de ses créateurs, Zermelo et Fraenkel.
L’axiomatique ZF compte neuf axiomes : l’axiome d’extension (si tout élément de X est un élément de Y et inversement, alors X = Y), l’axiome des ensembles élémentaires, l’axiome de la réunion, l’axiome des parties, l’axiome de l’infini, l’axiome de régularité et l’axiome de remplacement.

L’AXIOME DU CHOIX

Dès 1883, Cantor se posait la question de l’existence d’un bon ordre (c’est-à-dire d’une relation d’ordre de sorte que toute partie non vide admette un plus petit élément) pour tout ensemble. Ernst Zermelo, en 1904, dans une lettre à David Hilbert, démontre que la réponse est « oui » en utilisant un axiome supplémentaire, l’axiome du choix. Il adjoindra par la suite cet axiome à l’axiomatique ZF, qui deviendra ainsi l’axiomatique ZFC. La validité de ce nouvel axiome va ouvrir une profonde crise dans les mathématiques, appelée « crise des fondements ». Nombre de mathématiciens refusèrent totalement cet axiome en raison de l’impossibilité de choisir un élément dans un ensemble continu (dans lequel on ne peut ni ranger ni compter les éléments). Cet axiome, dans l’axiomatique ZF, est équivalent au lemme de Zorn qui affirme que, si un ensemble ordonné est tel que tout sous-ensemble totalement ordonné possède un majorant, alors il possède un élément maximal. Il est aujourd’hui largement accepté.

L’HYPOTHÈSE DU CONTINU

Après avoir énoncé et démontré le résultat selon lequel le cardinal des nombres réels est plus grand que celui des nombres entiers en 1874, Georg Cantor énonce quelques années plus tard l’un des résultats les plus marquants de la théorie des ensembles : l’hypothèse du continu. Cantor avance qu’il n’existe aucun ensemble dont le cardinal serait compris entre celui des nombres entiers et celui des nombres réels. En 1900, David Hilberténonce une liste de 23 problèmes dont la résolution devrait guider la recherche mathématique des années à venir. La démonstration de l’hypothèse du continu est le premier de ces 23 problèmes.
En 1938, Kurt Gôdel montre que cette hypothèse n’est pas réfutable au sein de l’axiomatique ZFC. Puis, en 1963, Paul Cohen prouve qu’elle ne peut pas se déduire des axiomes ZFC. Ainsi, cette hypothèse est indécidable (on ne peut ni la prouver ni la réfuter) au sein de l’axiomatique ZFC, formalisation aujourd’hui acceptée comme la plus juste de la théorie des ensembles.

EN RÉSUMÉ

Les mathématiciens ont, de tout temps, manipulé des ensembles finis de nombres. A contrario, il a fallu attendre le début du xxe siècle pour qu’ils acceptent l’idée de manipuler des ensembles infinis. Georg Cantor fournira un cadre de travail pour les ensembles infinis, la théorie des ensembles, formalisée ensuite par l’axiomatisation de Zermelo et Fraenkel, dans laquelle l’axiome du choix fera longtemps débat. C’est dans ce cadre que sera démontrée l’indécidabilité de l’hypothèse du continu.