Un résultat renversant

Solution en vidéo : https://youtu.be/0-T0DfnDBPo

$\boxed{\Rightarrow}$ Soit $P\in\mathrm{GL}_n(\mathbb{R})$ telle que $P^{-1}AP=\operatorname{diag}(\lambda_1,\dots,\lambda_n)$ diagonale. Alors $P^{-1}AP$ est inversible comme produit de matrice inversible et $(P^{-1}AP)^{-1}=P^{-1}A^{-1}P=\operatorname{diag}(1/\lambda_1,\dots,1/\lambda_n)$. On a donc
$$P^{-1}(A-A^{-1})P=P^{-1}AP-P^{-1}A^{-1}P=\operatorname{diag}\left(\lambda_1-\dfrac{1}{\lambda_1},\dots,\lambda_n-\dfrac{1}{\lambda_n}\right).$$$\boxed{\Leftarrow}$ Supposons $A-A^{-1}$ diagonalisable. Elle est alors annulée par un polynôme unitaire scindé à racines simples dans $\mathbb{R}[X].$ Soient $\lambda_1,\dots,\lambda_r$ des réels distincts tels que $P=\displaystyle\prod_{i=1}^r(X-\lambda_i)$ annule $A-A^{-1}$. On a alors $P(A-A^{-1})=0$ et donc, puisque $A$ commute avec $A,A^{-1}$ et $I_n,$
$$0=A^rP(A-A^{-1})=\prod_{i=1}^r(A^2-I_n-\lambda_i A)=\prod_{i=1}^r(A^2-\lambda_i A-I_n).$$Autrement dit, le polynôme $Q=\displaystyle\prod_{i=1}^{r}(X^2-\lambda_i X-1)$ annule $A.$ Par ailleurs, pour $\lambda\in\mathbb{R},$ le discriminant de $X^2-\lambda X-1$ est $\Delta=\lambda^2+4>0$ si bien que
$$X^2-\lambda X-1=\left(X-\dfrac{\lambda+\sqrt{\lambda^2+4}}{2}\right)\left(X-\dfrac{\lambda-\sqrt{\lambda^2+4}}{2}\right)=(X-2f(\lambda))(X-2g(\lambda)).$$avec $f$ et $g$ les fonctions définies sur $\mathbb{R}$ par $f(x)=x+\sqrt{x^2+4}$ et $g(x)=x-\sqrt{x^2+4}$ vérifient $\forall x\in\mathbb{R}, f(x)>0$ et $g(x)<0$ si bien qu’elles prennent des valeurs distinctes. D’autre part, $f$ est dérivable et $f'(x)=1+\dfrac{x}{\sqrt{x^2+4}}$ mais $\left|x\right|=\sqrt{x^2}<\sqrt{x^2+4}$ donc $-1<\dfrac{x}{\sqrt{x^2+4}}<1$. Par conséquent, $\forall x\in\mathbb{R}, f'(x)>0$ donc $f$ est strictement croissante donc injective. De même $g$ est aussi injective car aussi strictement croissante. En particulier, si $\lambda\neq \mu$ alors $f(\lambda),f(\mu),g(\lambda)$ et $g(\mu)$ sont tous distincts deux à deux. Le polynôme $Q$ est alors lui aussi scindé à racine simple et annulateur de $A$ donc $A$ est diagonalisable.

Notons $B:=A-A^{-1}$, $F$ la somme directe des sous espaces propres (réels) de $A$ et $G$ la somme directe des sous espaces propres (réels) de $B$.
Remarquons que $G$ peut s’écrire comme somme directe pour $t$ parcourant $\R$ des sous espaces $\ker(B-tI_{n})$. En effet, tous les espaces dans une telle somme sont nuls sauf peut-être un nombre fini.

1. Si $t$ est dans le spectre de $A$ (donc non nul puisque $A$ est inversible) il existe un vecteur $X$ non nul tel que $AX=tX$, d’où $A^{-1}X=1/tX$ et donc $BX=(t-1/t)X$ et donc $X$ est vecteur propre de B et en particulier est dans la somme directe des sous espaces propres de B. Comme ceci est vrai pour tout $t$ dans le spectre de $A$ et tout vecteur propre correspondant, on vient de prouver que $F\subset G$
2. si $t$ est dans le spectre de $B$, il existe un vecteur $X$ non nul tel que $BX=tX$ d’où $ABX=tAX$ soit $(A^{2}-tA-I_{n})X=0$. (1) Le polynôme réel $P:=X^2-tX-1$ a un discriminant strictement supérieur à zéro, donc possède deux racines réelles distinctes et donc, par le lemme des noyaux, (1) donne que$X$ est dans la somme directe des sous espaces propres de $A$. Finalement $G\subset F$.
3. D’après 1) et 2) on a alors $F=G$
4. Si $A$ est diagonalisable alors $F=\R^{n}$ et donc d’après 3), $G=\R^{n}$ ce qui signifie, par définition, que $B$ est diagonalisable.
   Même chaîne d’arguments si $B$ est diagonalisable. Conclusion $A$ est diagonalisable ssi $B$ est diagonalisable.

$\boxed{\Rightarrow}$ Supposons $A$ diagonalisable (dans $\R$) : il existe $P\in GL_{n}(\R)$ inversible et $D\in M_{n}(\R)$ diagonale telles que $P^{-1}AP=D$. Alors $D$ est inversible et $P^{-1}A^{-1}P=D^{-1}$ est aussi diagonale. Il en résulte en développant que $P^{-1}(A-A^{-1})P=D-D^{-1}$ qui est diagonale donc $A-A^{-1}$ est diagonalisable.

$\boxed{\Leftarrow}$ Avant de commencer, rappelons le résultat classique sur les polynômes de matrices : Quand $U,V$ sont deux polynômes premiers entre eux, on a $\ker UV(A)=\ker U(A)\oplus \ker V(A)$

Preuve si besoin

(exploiter à fond l’existence de deux polynômes $u,v$ tels que $uU+vV=1$ en instanciant en $A$).
Voir p.ex. Arnaudiès et Frayssé, Cours de mathématiques -1, page 638 (Dunod)

Supposons $B=A-A^{-1}$ diagonalisable et travaillons sur une valeur propre (réelle) $\mu$ de $B$.
L’équation en $x$ : $x-1/x=\mu$ est trinômiable à discriminant $\mu^{2}+4$ strictement positif, elle a donc deux racines réelles distinctes $\lambda,\lambda'$ de produit -1 (donc non nulles et $\lambda'=-1/\lambda$) et de somme $\mu=\lambda+\lambda'$.
On peut factoriser de deux façons $AB-\mu A$ :

1. $AB-\mu A=A(B-\mu I_{n})$, ce qui donne $\ker (AB-\mu A)=E_{\mu}(B)$ car $A$ est inversible,
2. $AB-\mu A=A^{2}-I_{n}-(\lambda +\lambda')A=(A-\lambda I_{n})(A-\lambda' I_{n})$
   En rapprochant les deux et en invoquant le résultat classique ($X-\lambda$ et $X-\lambda'$ sont premiers entre eux car $\lambda\neq\lambda'$), il vient
   $$E_{\mu}(B)=E_{\lambda}(A)\oplus E_{\lambda'}(A)$$et $\R^{n}$ étant somme directe des $E_{\mu}(B)$ pour $\mu\in Sp(B)$ car $B$ est diagonalisable, il est aussi somme directe de sous-espaces propres de $A$, donc $A$ est diagonalisable.