Introduction à la Théorie des ensembles

Introduction
Nombres cardinaux
Nombres ordinaux
L'axiome du choix
Références

Introduction

La théorie des ensembles peut se définir comme "l'étude de l'infini". Elle possède des objets qui lui sont propres comme les nombres cardinaux mais s'intéresse à tout type de structures mathématiques pouvant prendre un caractère infini.

Sa date de naissance remonte à la fin du XIXe après les travaux de Dedekind et surtout Cantor. Le premier s'est intéréssé à la description des objets et opérations qui nous sont aujourd'hui communes (intersection, bijection...) dans le cadre de ses recherches sur les anneaux et corps. Le second a "découvert" les nombres ordinaux lors de ses travaux sur les séries trigonométriques avant d'etudier les ensembles infinis pour leur intérêt propre. Il a ensuite exhiber des ensembles indénombrables et développer la théories des cardinaux. Dès lors, nombre de résultats purement ensemblistes ont été obtenus et ce n'est pas un hasard si en 1900, lors du second congrès international de mathématiques, "l'hypothèse du continu" se trouve en tête du premier problème de Hilbert.

Par la suite, la théorie des ensembles a du faire face aux critiques de mathématiciens qui pointaient du doigt certaines contradictions (Paradoxe de Russel, de Burali-Forti...) ou qui, à l'instar de Poincaré, jugeaient interdite l'utilisation de "choix infinis". En ce XXe siècle de formalisme et de rigueur, elle a alors du plus que d'autres utiliser la logique pour justifier son existence. Elle a finalement été amenée à une théorie axiomatique évitant les contradictions qui lui a même donné pour certains un statut particulier dans le fondement des mathématiques. Toutefois ce formalisme n'est qu'un outil pour étudier les énoncés de propriétés des structures infinis dont certaines se sont révélés indépendants du système axiomatique de base et pouvant même être placés sur l'échelle des "grands cardinaux" qui décrivent des "infinis très élevés".

Cet article vise à présenter de façon informelle quelques objets de la théorie des ensembles en montrant comment ils généralisent des concepts déjà connus pour des structures finis. Ceci permet de se familiariser avec des notions a priori inconnu des étudiants de l'enseignement supérieur. J'espère avoir l'occasion de réaliser un cours plus détaillé dans le futur.

Nombres cardinaux

Les entiers naturels peuvent être utilisés pour représenter le cardinal d'ensembles finis. Les nombres cardinaux se généralisent pour mesurer la taille de n'importe quel ensemble infini, pour donner une structure plus fine que la triologie fini/dénombrable/indénombrable.

Exemple : Soient $n_{1} ... n_{k}$ et $m_{1} ... m_{k}$ des entiers naturels tels que $n_{i} < m_{i}$ . Alors une récurrence facile donne $\sum_{i = 1}^{k} n_{i} < \prod_{i = 1}^{k} m_{i}$ . En terme d'ensembles finis, cela peut être interprété en prenant $X_{1} ... X_{n}$ (disjoints) et $Y_{1} ... Y_{n}$ tel que $X_{i}$ s'injecte strictement dans $Y_{i}$ . Alors on a $⋃_{i \in I} X_{i}$ qui s'injecte strictement dans le produit cartésien $\prod_{i \in I} Y_{I}$ . ♦

Via l'axiome du choix, ce résultat ce généralise pour des ensembles infinis $X_{i}, Y_{i}, I$ sous le nom de théorème de Konig. Un cas particulier ( $I = E, X_{i} = {i}$ et $Y_{i} = {0; 1}$ ) ne nécessitant pas l'axiome du choix est le théorème de Cantor : tout ensemble $E$ s'injecte strictement dans $℘ (E)$ . Ce théorème montre qu'il existe une "infinité d'infinis", par exemple les ensembles $ℕ, ℘ (ℕ), ℘ (℘ (ℕ))$ ... ont tous des cardinalités différentes.

L'idée pour définir des cardinaux infinis est donc de mettre dans une même classe les ensembles équipotents et d'ordonner les cardinaux via la relation "s'injecte dans". On retrouve alors les trois types classiques : les ensembles s'injectant strictement dans $ℕ$ sont finis, ceux qui sont en bijection avec $ℕ$ dénombrables et ceux à l'intérieur desquels on peut injecter $ℕ$ strictement sont dit indénombrables. Plusieurs questions surgissent, certaines nécessitant l'axiome du choix pour y répondre :

As t'on vraiment une relation d'ordre c'est-à-dire (seule la symétrie étant non-triviale) si $E$ s'injecte dans $F$ et $F$ s'injecte dans $E$ alors $E, F$ sont en bijection ?
Ne peut-on pas remplacer l'existence d'une injection par une surjection ?
L'ordre obtenu est-il dense (comme $ℚ$ ) ou pas (comme $ℕ$ ) ? Le cardinal de $℘ (ℕ)$ vient-il juste après celui de $ℕ$ (Hypothèse du continu) ?
Tout ensemble est-il "mesurable" en terme de cardinalité ?
Peut-on généraliser l'arithmétique des entiers naturels aux cardinaux infinis ?
Une réunion dénombrable d'ensembles dénombrables est t'elle dénombrable ?
Tout ensemble infini possède-t-il une partie dénombrable ?
Où placer sur l'échelle des cardinaux les ensembles $ℤ, ℚ, ℝ, ℘ (ℕ), ℂ^{3}$ , l'ensemble des compacts de $ℝ$ ou encore l'ensemble des applications continues de $ℝ$ dans $ℝ$ ?

Pour le dernier point, vous pouvez retrouver des résultats classiques dans l'exercice mesurer la taille des ensembles.

Nombres ordinaux

Les cardinaux servent à compter, mais une autre façon de voir les entiers naturels est de dire qu'ils servent à "ordonner" des ensembles finis : (0ième,) premier, second, troisième... Pour les ensembles infinis, il faut cependant aller plus loin. On prolonge cette suite par un nombre ω qui est plus grand que tous les entiers et on continue : $0,1,2, ... ω, ω + 1, ω + 2, ω + 3 ..., ω 2, ω 2 + 1, ... ω^{2}, ω^{2} + 1 ... ω^{ω} ... ω^{ω^{ω}} ...$

Cette nouvelle suite est appelée ordinaux et permet de généraliser les propriétés fondamentales de $ℕ$ (toute partie non vide possède un plus petit élément, construction et démonstration par récurrence, arithmétique) de façon à les appliquer aux ensembles infinis. Par exemple, on sait que "tout ensemble de dimension fini possède une base" mais on peut généraliser ce résultat à des espaces de dimension infini :

Exemple : Considérons un espace vectoriel dénombrable, c'est-à-dire dont les vecteurs peuvent être énumérés ${(v_{n})}_{n \in ℕ}$ . On construit une base par récurrence :

$e_{0} = v_{0}$ (on peut le supposer non nul, quitte à changer les indices)
Si $e_{0} . . . e_{n}$ sont définis, et $e_{n} = v_{m}$ alors $e_{n + 1} = v_{k}$ où $k$ est le plus petit entier strictement supérieur à $m$ tel que $(e_{0}, e_{1}, . . ., e_{n}, v_{k})$ soit libre. Si il n'en n'existe pas, $(e_{1}, . . ., e_{n})$ est en fait une base donc on s'arrête là.

Dans le cas où la suite est infinie l'espace vectoriel est de dimension infinie, une base étant ${(e_{i})}_{i \in ℕ}$ . ♦

Maintenant supposons que l'on puisse de la même façon énumérer les vecteurs d'un espace vectoriel - ce qui est toujours le cas si on admet l'axiome du choix - : $v_{0}, v_{1}, v_{2} ... v_{ω}, v_{ω + 1} . . .$ Alors en appliquant un raisonnement similaire, on peut construire une base par "induction ordinale".

Notez que le problème de théorie des graphes "coupage d'une arborescence" peut être résolu dans l'arithmétique ordinale.

L'axiome du choix

L'une des hypothèses fondamentales pour développer la théorie des ensembles est que l'on puisse réaliser des "choix infinis". Bien que rejeté par certains mathématiciens au début du XXe siècle, elle a été petit à petit acceptée après que Gödel a démontré que son adjonction n'était pas susceptible de conduire à une contradiction. De plus il s'est révélé que pour étudier des structures mathématiques abstraites l'axiome du choix était indispensable.

Définition : Soit $E$ un ensemble (d'ensembles), on appelle fonction de choix sur $E$ toute fonction $f : E \to ⋃_{X \in E} X$ de domaine $E \ {\emptyset}$ telle que $f (X) \in X$ . Autrement dit, une fonction de choix sur $E$ "choisit" pour tout ensemble $X \in E$ donné un élément $X$ . ♣

Exemples : Si $E$ est fini, on construit par récurrence une fonction de choix, en choisissant un premier élément dans un ensemble, puis un autre dans le second, ... puis un dernier dans le $n$ -ième. $℘ (ℕ)$ possède une fonction de choix, en considérant l'application qui a toute partie non vide de $ℕ$ associe son plus petit élément. Un ensemble de paire ${a_{i}; b_{i}}$ de réels possèdent pour fonction de choix la fonction qui associe le plus petit des deux. ♦

On généralise cette propriété en posant l'axiome du choix (AC) qui stipule que "tout ensemble possède une fonction de choix". Cette hypothèse est utiliser dans diverses démonstrations mathématiques.

Exemple : Soient $f : I \to ℝ$ et $a \in ℝ$ . Alors $f$ est continue en $a$ ssi pour toute suite ${(a_{n})}_{n \in ℕ} \in ℝ^{ℕ}$ convergent vers $a$ , on a $f (a_{n}) \to f (a)$ . Le sens direct est évident, donc montrons la réciproque par contraposée : Si $f$ n'est pas continue en $a$ , alors $\neg (\forall ε > 0 \exists δ \forall x \in ℝ ∣ x - a ∣ \leq δ \Rightarrow ∣ f (x) - f (a) ∣ \leq ε)$ . Soit ε un réel contredisant la propriété et soit $g$ une fonction de choix sur $℘ (ℝ)$ et définissons la suite (ce qui est possible car le sous-ensemble mis en jeu est non vide) $a_{n} = g (\{x \in ℝ| ∣ x - a ∣ \leq \frac{1}{n + 1} \land ∣ f (x) - f (a) ∣ > ε\})$ . Par construction la suite $a_{n}$ tend vers $a$ mais $f (a_{n})$ ne tend pas vers $f (a)$ . ♦

L'axiome du choix est souvent utilisé en algèbre pour exhiber des ensembles maximaux (par exemple la famille libre maximale). Il prend une forme équivalente appelée Lemme de Zorn, permettant de démontrer des résultats sans utiliser les ordinaux :

Définition (Lemme de Zorn): Soit $(E, \leq)$ un ensemble ordonné. Si toute partie non vide totalement ordonnée possède un majorant, alors $E$ possède un élément maximal. ♦

En théorie des ensembles, l'axiome du choix permet de montrer que :

Si il existe une surjection de $F$ dans $E$ alors il existe une injection de $E$ dans $F$ (la réciproque est démontrable sans AC)
Tout ensemble est bien ordonnable (Théorème de Zermelo, équivalent à AC) et on peut en donner une énumération à l'aide d'une suite d'ordinaux.
Tout ensemble peut être placé sur l'échelle des cardinaux
Une réunion dénombrable d'ensembles dénombrables est dénombrable
Tout ensemble infini possède une partie dénombrable.
L'échelle des cardinaux peut être énumérée par induction ordinale : $0,1,2, . . ., ℵ_{0}, ℵ_{1} . . . ℵ_{ω}, ℵ_{ω + 1}, . . . ℵ_{ω 2} . . .$ Le cardinal de $ℕ$ , et des ensembles dénombrables est $ℵ_{0}$ .

Références

Divers livres personnels référencés dans ouvrages.
Des démos sur mon site "Maths, Informatique, Jeux".

Auteur : Frédéric WANG