Un commutateur de rang 1

indications. Pour une matrice M de rang 1, chercher un polyn^ome de degré 2 qui annule M. Pour deux matrices R et S, calculer $Tr(RS-SR)$. Conclure.

Par le théorème du rang : $\dim(\ker(AB-BA)) = n- 1$
Soit $\mathcal{B} := (e_{i})_{i \in [\![ 1,n-1]\!]}$ une base de $\ker(AB - BA)$.
Comme $\mathrm{rg}(AB-BA)\ne 0$, il existe un vecteur $e_{n}$ tel que $(AB - BA)e_{n}\ne 0$

La famille $\mathcal{C} := (e_{i})_{i\in[\![1,n]\!]}$ forme une famille libre de cardinal $n$ de $\mathcal{M}_{n,1}(\mathbb{R})$ donc un base, en effet :
Soit $(\lambda_{i})_{i\in[\![1,n]\!]}$ une famille de scalaires tels que : $\sum_{i=1}^{n}\lambda_{i}e_{i} =0$
En multipliant cette égalité par $AB-BA$ et en sachant que $\forall i \in [\![1,n-1]\!], (AB - BA)e_{i}=0$ et $(AB-BA)e_{n}\ne 0$, on a $\lambda_{n}=0$.
Ainsi $\sum_{i=1}^{n-1}\lambda_{i}e_{i}=0$, mais comme $\mathcal{B}$ est libre (car base de $\ker(AB-BA)$), on a $\forall i \in [\![1,n-1]\!], \lambda_{i}=0$.
En conclusion, $\mathcal{C}$ est libre car $\forall i \in [\![1,n]\!], \lambda_{i} = 0$

Soit $u$ l’endomorphisme canoniquement associé à $AB - BA$.
La matrice de $u$ dans la base $\mathcal{C}$ s’exprime comme
$$\mathrm{Mat}_{\mathcal{C}}(u) = \begin{pmatrix} 0 & ... & 0 & a_{1}\\ \vdots & & \vdots&\vdots \\0 & ... & 0&a_{n}\end{pmatrix}$$où les $(a_{i})_{i\in[\![1,n]\!]}$ sont les coordonnées de $e_{n}$ dans la base $\mathcal{C}$.

Nous pouvons, grâce à la trace, montrer que $a_{n} = 0$, en effet :
Par linéarité et cyclicité de de la trace : $\mathrm{tr}(AB - BA) = \mathrm{tr}(AB) - \mathrm{tr}(BA) =0$
La trace est un invariant de similitude, donc on a également $\mathrm{tr}(\mathrm{Mat}_{\mathcal{C} }(u))=0$
Par ailleurs, comme nous disponsons de $\mathrm{Mat}_{\mathcal{C}}(u)$, nous pouvons simplement sommer ses coefficients diagonaux pour obtenir sa trace : $\mathrm{tr}(\mathrm{Mat}_{\mathcal{C}}(u)) = \sum_{i=1}^{n-1} 0 + a_n = a_{n}$
Donc :

$$\mathrm{Mat}_{\mathcal{C}}(u) = \begin{pmatrix} 0 & ... & 0 & a_{1}\\ \vdots & & \vdots&\vdots \\ 0&... & 0 &a_{n-1}\\0 & ... & 0&0\end{pmatrix}$$$\newline$
Par produit matriciel : $(\mathrm{Mat}_{\mathcal{C}}(u))^{2} = 0$
$\newline$
$AB - BA$ et $\mathrm{Mat}_{\mathcal{C}}(u)$ sont semblables donc leurs carrés sont semblables. $(AB - BA)^{2}$ est semblable à la matrice nulle (une matrice scalaire) donc est égale à la matrice nulle.
$\newline$
Remarque : Plus généralement, pour n’importe quelle matrice $M\in \mathcal{M}_{n}(\mathbb{C})$ de trace nulle et de rang au plus $1$, $M^{2} =0$.

On va commencer par montrer que notre commutateur est bien une matrice nilpotente.

Puisque $\text{rg}(AB-BA)=1$, la dimension du noyau du commutateur est $n-1$. On sait donc que $0$ est valeur propre de multiplicité au moins $n-1$. Or, comme $\text{tr}(AB-BA)=0$, alors toutes les valeurs propres du commutateur sont nulles, i.e. $\chi_{AB-BA}=X^{n}$. Par théorème de Cayley-Hamilton, le commutateur est bien nilpotent.

Maintenant, on peut appliquer le théorème de Jordan sur la réduction des matrices nilpotentes. On rappelle la définition d’un bloc de Jordan nilpotent :

$$J:=\begin{pmatrix} 0 & 1 & 0 & \cdots & 0 \\ 0 & 0 & 1 & \cdots & 0 \\ \vdots & & \ddots & \ddots & \vdots\\ 0 & & \cdots &0&1\\ 0 && \cdots & &0 \end{pmatrix}$$Comme le commutateur est nilpotent, il existe des blocs de Jordan $J_{1},\dots,J_{r}$ tel que le commutateur soit similaire à la matrice

$$\begin{pmatrix} J_{1} & & & \\ & J_{2} & & \\ & & \ddots &\\ &&& J_{r} \end{pmatrix}$$

Or, comme le rang du commutateur vaut $1$, tous les blocs de Jordan sont de rang au plus $1$, i.e soit nuls soit égaux à
$$\begin{pmatrix} 0 & 1\\ 0 & 0 \end{pmatrix}$$Ainsi, lorsqu’on met au carré, par produit par blocs, on obtient la matrice nulle, d’où $(AB-BA)^2=0$.

Soit $u=AB-BA$. En accolant un vecteur de base de Im$(u)$ et une base de Ker$(u)$ on a une base $B$ dans laquelle tous les coefficients $a_{ij}$ de $M_B(u)$ sont nuls exceptés ceux de la première colonne.
De plus tr$(AB)$=tr$(BA)$ donc tr($u)=a_{{11}}=0$, Im$(u)$ est inclus dans Ker$(u)$, d’où $u^{2}=0$ :
$$(AB-BA)^{2}=0$$