Solution
On va commencer par montrer que notre commutateur est bien une matrice nilpotente.
Puisque , la dimension du noyau du commutateur est . On sait donc que est valeur propre de multiplicité au moins . Or, comme , alors toutes les valeurs propres du commutateur sont nulles, i.e. . Par théorème de Cayley-Hamilton, le commutateur est bien nilpotent.
Maintenant, on peut appliquer le théorème de Jordan sur la réduction des matrices nilpotentes. On rappelle la définition d’un bloc de Jordan nilpotent :
Comme le commutateur est nilpotent, il existe des blocs de Jordan tel que le commutateur soit similaire à la matrice
Or, comme le rang du commutateur vaut , tous les blocs de Jordan sont de rang au plus , i.e soit nuls soit égaux à
Ainsi, lorsqu’on met au carré, par produit par blocs, on obtient la matrice nulle, d’où .

Bonjour, il me semble que Cayley+Hamilton+Jordan forment une équipe surdimensionnée pour cet exercice...
Bonjour,
Je suis d’accord, la solution que j’ai proposé est une solution qui m’est venue naturellement lorsque j’ai tenté de résoudre l’exercice avec des outils dont j’ai l’habitude de manipuler. C’est une déformation professionnelle : qui dit nilpotence dit théorème de Jordan, c’est peut-être un mauvais réflexe qu’utiliser ce résultat surdimensionné...
Votre solution, plus élémentaire et aussi plus courte, est bien plus adéquate étant donné que cet exercice peut être donné à des élèves de première année de classes préparatoire.
Bonne journée !