Groupes finis avec 3 classes de conjugaison

Soit $G$ agissant sur $X:=G$ par conjugaison, c’est-à-dire via l’action $(g,x)\in G\times X\longmapsto g\cdot x=gxg^{-1}\in G$.

Ainsi, l’orbite de $x$ sous cette action est $O_x:=\{gxg^{-1}, g\in G\}$, c’est-à-dire la classe de conjugaison de $x$, et son stabilisateur est $Stab(x):=\{g\in G\mid gxg^{-1}=x\}$, c’est-à-dire l’ensemble des éléments qui commutent avec $x$.

Nous savons que l’ensemble des orbites forme une partition de $X$, c’est-à-dire qu’il existe $x_1,\dots,x_r\in X$ tels que $X=\bigsqcup_{i=1}^r O_{x_i}$. Mais il n’y a ici que trois classes de conjugaison, donc $r=3$. De plus, l’une de ces classes contient l’élément neutre $e$, dont l’orbite est réduite à lui-même puisqu’il commute avec tout le monde. On a donc l’égalité $X=\{e\}\sqcup O_x\sqcup O_y$ pour certains $x,y\in X$.

Considérons maintenant les cardinalités : on obtient $\#G=1+\#O_x+\#O_y$. Mais les cardinalités $\#O_x$ et $\#O_y$ peuvent aussi s’écrire comme $\frac{\#G}{\#Stab(x)}$ (et de même pour $y$), donc on obtient finalement
$$\#G=1+\#G\left(\frac{1}{\#Stab(x)}+\frac{1}{\#Stab(y)}\right).$$

Ce qui peut se réécrire comme
$$\#Stab(x)\cdot\#Stab(y)\cdot(\#G-1)=\#G\cdot(\#Stab(x)+\#Stab(y)).$$

Mais puisque $\#G$ et $\#G-1$ sont premiers entre eux, alors $\#G-1$ divise $\#Stab(x)+\#Stab(y)$. Cependant, $Stab(x)$ et $Stab(y)$ sont des sous-groupes de $G$. Supposons que l’un d’eux soit égal à $G$, alors $\#G-1$ divise le cardinal de l’autre moins un, et celui-ci doit donc également être égal à $G$. Mais $Stab(x)=G$ si et seulement si $x$ commute avec tout élément de $G$, et de même pour $y$. Ainsi $G=\mathbb{Z}/3\mathbb{Z}$.

Supposons maintenant que $Stab(x)$ et $Stab(y)$ ne soient tous les deux pas égaux à $G$. Alors, d’après le théorème de Lagrange, leurs cardinalités doivent être inférieures ou égales à $\frac{\#G}{2}$, donc leur somme doit être inférieure à $\#G$ et être un multiple de $\#G-1$. Elle doit donc être égale à $\#G-1$.

Finalement, on obtient les deux équations :
$$\#G-1=\#Stab(x)+\#Stab(y)\,\,\text{et}\,\,\#G=\#Stab(x)\cdot\#Stab(y).$$

Puisque nous savons que $e\in Stab(x)\cap Stab(y)$, posons $a:=\#Stab(x)-1$ et $b:=\#Stab(y)-1$, ce qui donne $a+b=\#G-3$ et $2=ab$. Ainsi, sans perte de généralité, on déduit que $a=2$ et $b=1$, donc $\#Stab(x)=3,\#Stab(y)=2$ et $\#G=6$.

Enfin, il n’existe qu’un seul groupe non abélien d’ordre $6$ à isomorphisme près (il doit être non abélien pour n’avoir que $3$ classes de conjugaison), qui est $S_3$. Cela conclut la preuve.