Noyau d’une action ; actions fidèles, libres, transitives

Définition intuitive

Le noyau mesure ce que l'action « ne voit pas » de $G$ ; l’action est fidèle quand elle voit tout. Elle est transitive quand $X$ est d’un seul tenant (une seule orbite), libre quand aucun élément non trivial ne fixe aucun point, simplement transitive quand chaque point peut être envoyé sur chaque autre d’une unique façon.

Définition formelle

Soit $G$ agissant sur $X$ et $\tau : G \to \mathfrak{S}(X)$ le morphisme associé.

• Le noyau de l’action est
  $$\ker \tau = \{ g \in G \mid \forall x \in X,\ g \cdot x = x \} = \bigcap_{x \in X} G_x .$$C’est un sous-groupe distingué de $G$.
• L’action est fidèle si $\ker \tau = \{e\}$ : $G$ s’identifie alors à un sous-groupe de $\mathfrak{S}(X)$.
• L’action est libre si tous les stabilisateurs sont triviaux : $g \cdot x = x \Rightarrow g = e$.
• L’action est transitive s’il n’y a qu’une seule orbite : pour tous $x, y \in X$ il existe $g \in G$ tel que $y = g \cdot x$. On dit que $X$ est un espace homogène sous $G$.
• L’action est simplement transitive si elle est libre et transitive : pour tous $x, y$ il existe un unique $g$ tel que $y = g \cdot x$. On dit que $X$ est un $G$-torseur (espace principal homogène).
• L’action est $k$-transitive si elle est transitive sur les $k$-uplets d’éléments deux à deux distincts.

Propriétés

• Libre implique fidèle ; la réciproque est fausse (voir l’exemple 4).
• Une action quelconque induit une action fidèle du quotient $G/\ker \tau$ sur $X$.
• Si l’action est transitive, $X$ est en bijection avec $G/G_x$ pour n’importe quel $x$ (formule orbite-stabilisateur) ; si elle est simplement transitive, $X$ est en bijection avec $G$, mais cette bijection dépend du choix d’un point base.

Exemples

1. Libre, non transitive. $\mathbb{Z}$ sur $\mathbb{R}$ par translation $n \cdot x = x + n$.
2. Transitive, fidèle, non libre. $\mathfrak{S}_n$ sur $\{1, \ldots, n\}$ pour $n \geq 3$ : elle est même $n$-transitive, et $\mathfrak{A}_n$ est $(n-2)$-transitive.
3. Simplement transitive. $G$ sur lui-même par translation à gauche ; $\mathrm{GL}_n(K)$ sur les bases de $K^n$ ; $\mathrm{O}_n(\mathbb{R})$ sur les bases orthonormées de $\mathbb{R}^n$ ; le groupe additif $(E, +)$ d’un espace vectoriel sur un espace affine de direction $E$ (c’est la définition même d’un espace affine).
4. Fidèle, non libre. $\mathfrak{S}_3$ sur les parties à $2$ éléments de $\{1, 2, 3\}$ : une permutation qui fixe toutes les paires fixe leurs intersections, donc tous les points, l’action est fidèle ; mais $\operatorname{Stab}(\{1, 2\}) = \{ \mathrm{id}, (1\ 2) \}$.
5. Non fidèle. $G$ sur lui-même par conjugaison : le noyau est le centre $Z(G)$. $\mathrm{GL}_n(K)$ sur les droites vectorielles de $K^n$ : le noyau est le groupe des homothéties $K^\ast I_n$, d’où l’action fidèle de $\mathrm{PGL}_n(K)$ sur l’espace projectif.
6. $G$ sur $G/H$ par translation : transitive, de noyau $\bigcap_{g \in G} g H g^{-1}$, le plus grand sous-groupe distingué de $G$ contenu dans $H$ (théorème de Cayley étendu).

Remarques

• Piège classique. Ne pas confondre libre (« simple ») et fidèle : libre signifie que chaque stabilisateur est trivial, fidèle que l’intersection des stabilisateurs est triviale.
• Pour prouver la transitivité : soit exhiber explicitement $g$ envoyant $x$ sur $y$, soit compter et montrer que $|G \cdot x| = |X|$.
• Pour prouver la fidélité : montrer que tout $g \neq e$ déplace au moins un point.