indice de groupe

Définition intuitive

L’indice d’un sous-groupe $H$ dans un groupe $G$ compte le nombre de translatés de $H$ nécessaires pour recouvrir $G$. Le point de départ est que ces translatés, les classes $gH$, sont deux à deux disjoints et tous en bijection avec $H$ : le groupe se découpe donc en tranches identiques, et l’indice est simplement le nombre de tranches. C’est la notion de « taille relative » de $H$ dans $G$, qui garde un sens même quand $G$ est infini, dans $\mathbb{Z}$, le sous-groupe $2\mathbb{Z}$ est infini mais n’occupe que la moitié de la place, et son indice vaut $2$. Pour $G$ fini, la relation $|G|=[G:H]\cdot|H|$ n’est rien d’autre que le théorème de Lagrange, et c’est de cette égalité que découle l’essentiel des contraintes arithmétiques sur les groupes finis. Un indice petit est particulièrement significatif : un sous-groupe d’indice $2$ est automatiquement distingué, et plus généralement un indice petit force $H$ à contenir un gros sous-groupe distingué.

Définition formelle

Soient $G$ un groupe et $H\leqslant G$ un sous-groupe. La relation $x\sim y \iff x^{-1}y\in H$ est une relation d’équivalence sur $G$, dont les classes sont les classes à gauche $gH=\{gh : h\in H\}$. On note $G/H$ l’ensemble de ces classes. L'indice de $H$ dans $G$ est
$$[G:H]=\bigl|G/H\bigr|\ \in\mathbb{N}^{*}\cup\{\infty\}.$$L’application $gH\mapsto Hg^{-1}$ étant une bijection de $G/H$ sur l’ensemble $H\backslash G$ des classes à droite, l’indice ne dépend pas du côté choisi.

Trois propriétés fondamentales :
$$\textbf{(Lagrange)}\quad |G|=[G:H]\cdot|H| \quad\text{si } G \text{ est fini};$$$$\textbf{(multiplicativité)}\quad K\leqslant H\leqslant G \ \Longrightarrow\ [G:K]=[G:H]\cdot[H:K];$$$$\textbf{(Poincaré)}\quad [G:H\cap K]\leqslant [G:H]\cdot[G:K].$$En particulier, une intersection finie de sous-groupes d’indice fini est d’indice fini.

Remarques

• $[G:H]=1 \iff H=G$, et $[G:\{e\}]=|G|$.
• Si $[G:H]=2$, alors $H\trianglelefteq G$ : il n’y a que deux classes, $H$ et son complémentaire, à gauche comme à droite. C’est faux en général pour un indice $\geqslant 3$ : dans $\mathfrak{S}_3$, le sous-groupe $\{\mathrm{id},(1\,2)\}$ est d’indice $3$ et n’est pas distingué.
• Théorème de Poincaré (action sur les classes). L’action de $G$ sur $G/H$ par translation fournit un morphisme $G\to\mathfrak{S}_{G/H}$ dont le noyau, $\bigcap_{g\in G}gHg^{-1}$, est le plus grand sous-groupe distingué de $G$ contenu dans $H$. Si $[G:H]=n$ est fini, $G/\ker$ s’injecte dans $\mathfrak{S}_n$, donc $[G:\ker]$ divise $n!$. Conséquence classique : un groupe fini dont l’indice $p=[G:H]$ est le plus petit facteur premier de $|G|$ a nécessairement $H\trianglelefteq G$.
• Quand $H\trianglelefteq G$, l’ensemble $G/H$ est un groupe et $[G:H]=|G/H|$ : l’indice est alors l’ordre du groupe quotient. Sans normalité, $G/H$ n’est qu’un $G$-ensemble.
• La réciproque du théorème de Lagrange est fausse : un diviseur de $|G|$ n’est pas toujours l’ordre d’un sous-groupe. Les théorèmes de Sylow en donnent une réciproque partielle pour les puissances de nombres premiers.
• Un indice fini est compatible avec $H$ et $G$ infinis. En théorie des groupes infinis, les sous-groupes d’indice fini jouent le rôle de « presque tout le groupe » : une propriété vraie pour l’un est souvent vraie à indice fini près pour l’autre.

Exemples

1. $[\mathbb{Z}:n\mathbb{Z}]=n$ pour $n\geqslant 1$, les classes étant les $n$ résidus modulo $n$. Ici $H$ est infini, $G$ aussi, et l’indice est fini.
2. $[\mathfrak{S}_n:\mathfrak{A}_n]=2$ pour $n\geqslant 2$ : les deux classes sont les permutations paires et impaires. Le groupe alterné est donc distingué, et c’est le seul sous-groupe d’indice $2$ de $\mathfrak{S}_n$.
3. Dans $\mathfrak{S}_4$, le sous-groupe de Klein $V=\{\mathrm{id},(1\,2)(3\,4),(1\,3)(2\,4),(1\,4)(2\,3)\}$ est d’indice $6$, et $[\mathfrak{A}_4:V]=3$ : on vérifie la multiplicativité $24=6\cdot 4$ et $[\mathfrak{S}_4:V]=[\mathfrak{S}_4:\mathfrak{A}_4]\cdot[\mathfrak{A}_4:V]=2\cdot 3$.
4. $[\mathrm{GL}_n(K):\mathrm{SL}_n(K)]=|K^{*}|$, les classes étant les fibres du déterminant. Pour $K=\mathbb{R}$ l’indice est infini, alors que $[\mathrm{GL}_n(\mathbb{F}_q):\mathrm{SL}_n(\mathbb{F}_q)]=q-1$.
5. $[\mathbb{R}:\mathbb{Z}]$ est infini (non dénombrable) : les classes $x+\mathbb{Z}$ sont les points du cercle $\mathbb{R}/\mathbb{Z}$.
6. Sous-groupes de congruence. Dans $\mathrm{SL}_2(\mathbb{Z})$, le sous-groupe $\Gamma(N)$ des matrices congrues à $I_2$ modulo $N$ est d’indice fini, égal à $N^{3}\prod_{p\mid N}(1-p^{-2})$ ; c’est le noyau de la réduction $\mathrm{SL}_2(\mathbb{Z})\to\mathrm{SL}_2(\mathbb{Z}/N\mathbb{Z})$.
7. Contre-exemple. Dans le groupe libre $F_2$ à deux générateurs, le sous-groupe dérivé $[F_2,F_2]$ est d’indice infini, bien que $F_2$ soit engendré par deux éléments seulement : un sous-groupe distingué et « gros » peut parfaitement être d’indice infini.
8. Contre-exemple à la réciproque de Lagrange. $\mathfrak{A}_4$ est d’ordre $12$ mais ne possède aucun sous-groupe d’ordre $6$, c’est-à-dire aucun sous-groupe d’indice $2$.