Théorème de Cayley et action sur les classes à gauche

Énoncé

Théorème de Cayley. Tout groupe $G$ se plonge dans le groupe $\mathfrak{S}(G)$ de ses permutations. En particulier, tout groupe fini d’ordre $n$ est isomorphe à un sous-groupe de $\mathfrak{S}_n$.

Théorème de Cayley étendu. Soit $H$ un sous-groupe d’indice fini $n$ de $G$. L’action de $G$ sur $G/H$ par translation à gauche définit un morphisme
$$\varphi : G \to \mathfrak{S}(G/H) \simeq \mathfrak{S}_n$$dont le noyau est $\bigcap_{g \in G} g H g^{-1}$, le plus grand sous-groupe distingué de $G$ contenu dans $H$. En particulier $G / \ker \varphi$ se plonge dans $\mathfrak{S}_n$, donc $[G : \ker \varphi]$ divise $n!$.

Démonstration

L’action de $G$ sur lui-même par translation à gauche est libre, donc fidèle : si $\varphi(g) = \mathrm{id}$ alors $g e = e$, donc $g = e$. D’où le plongement $G \hookrightarrow \mathfrak{S}(G)$.

Pour la version étendue : $g \in \ker \varphi$ si et seulement si $g a H = a H$ pour tout $a$, c’est-à-dire $a^{-1} g a \in H$ pour tout $a$, c’est-à-dire $g \in \bigcap_a a H a^{-1}$. Ce noyau est distingué (c’est un noyau) et contenu dans $H$ (prendre $a = e$). Si $N$ est distingué et contenu dans $H$, alors $N = a N a^{-1} \subset a H a^{-1}$ pour tout $a$, donc $N \subset \ker \varphi$.

Corollaires

1. Théorème de l’indice (lemme d’Ore). Si $G$ est fini et $p$ est le plus petit diviseur premier de $|G|$, tout sous-groupe $H$ d’indice $p$ est distingué. En effet $G / \ker \varphi$ se plonge dans $\mathfrak{S}_p$, donc $[G : \ker \varphi]$ divise à la fois $p!$ et $|G|$ ; ses facteurs premiers sont donc à la fois $\leq p$ et $\geq p$, d’où $[G : \ker \varphi] \in \{1, p\}$. Comme $\ker \varphi \subset H \neq G$, on a $[G : \ker \varphi] = p = [G : H]$, donc $\ker \varphi = H$.
   Cas particuliers : tout sous-groupe d’indice $2$ est distingué ; dans un $p$-groupe, tout sous-groupe d’indice $p$ est distingué.
2. Critère de non-simplicité. Si $G$ possède un sous-groupe propre $H$ d’indice $n > 1$ tel que $|G|$ ne divise pas $n!$, alors $G$ n’est pas simple : le noyau de $\varphi$ est un sous-groupe distingué non trivial (car $|G| \nmid n!$) et propre (car contenu dans $H$).
3. Plongement linéaire. $G \hookrightarrow \mathfrak{S}_n \hookrightarrow \mathrm{GL}_n(\mathbb{Z})$ par les matrices de permutation, et même $\mathfrak{S}_n \hookrightarrow \mathrm{GL}_{n-1}(\mathbb{Z})$ en restreignant à l’hyperplan $x_1 + \cdots + x_n = 0$.

Exemples

1. Un groupe d’ordre $36$ n’est pas simple : un $3$-Sylow est d’indice $4$ et $36$ ne divise pas $4! = 24$.
2. Le plongement de Cayley n’est pas optimal : $D_4$ (ordre $8$) se plonge dans $\mathfrak{S}_4$ par son action sur les sommets du carré, alors que Cayley le plonge dans $\mathfrak{S}_8$ ; et $\mathfrak{S}_n$ lui-même se plonge dans $\mathfrak{S}_n$ et non seulement dans $\mathfrak{S}_{n!}$.
3. $\mathbb{Z}/4\mathbb{Z} \hookrightarrow \mathfrak{S}_4$ par $1 \mapsto (1\ 2\ 3\ 4)$ : c’est exactement la translation à gauche sur $\mathbb{Z}/4\mathbb{Z}$.

Remarques

• Le théorème de Cayley dit que « tout groupe est un groupe de permutations » : la théorie abstraite des groupes se ramène, en principe, à celle des sous-groupes de $\mathfrak{S}_n$.
• L’action sur $G/H$ est l’outil de base pour fabriquer des sous-groupes distingués ; combinée aux théorèmes de Sylow, elle règle la plupart des questions de simplicité pour les petits ordres.