Une caractérisation de la nilpotence

On se propose une méthode exotique passant par les fractions rationnelles.

$$\boxed{\text{Première partie : Montrons que, pour tout } k\in\mathbb{N}^*,\ \operatorname{Tr}(A^k)=0.}$$

Notons
$$u_k=\operatorname{Tr}(A^k).$$

Par le théorème de Cayley-Hamilton, il existe
$$c_0,\ldots,c_{n-1}\in\mathbb{R}$$tels que
$$A^n+c_{n-1}A^{n-1}+\cdots+c_0I_n=0.$$

En multipliant cette égalité par $A^k$, puis en prenant la trace, on obtient
$$u_{k+n}+c_{n-1}u_{k+n-1}+\cdots+c_0u_k=0.$$

Ainsi, la suite $(u_k)$ vérifie une équation de récurrence linéaire.

Or, par hypothèse,
$$u_1=\cdots=u_n=0.$$

Une simple récurrence montre alors que
$$\boxed{\forall k\geq 1,\quad u_k=0.}$$

$$\boxed{\text{Deuxième partie : Utilisation d'une fraction rationnelle}}$$

On note
$$\lambda_1,\ldots,\lambda_n$$les valeurs propres de $A$, comptées avec multiplicité.

Supposons, par l’absurde, que $A$ ne soit pas nilpotente. Alors l’une de ses valeurs propres est non nulle.

On choisit $i_0$ tel que
$$|\lambda_{i_0}|=\max_{1\leq i\leq n}|\lambda_i|.$$

On considère alors la série entière
$$F(X)=\sum_{k=1}^{+\infty}u_kX^k,$$pour
$$|X|<\frac{1}{|\lambda_{i_0}|}.$$

D’une part, puisque
$$u_k=0\qquad\forall k\geq1,$$on a
$$\boxed{F(X)=0.}$$

D’autre part, les valeurs propres de $A^k$ étant
$$\lambda_1^k,\ldots,\lambda_n^k,$$on a
$$u_k=\operatorname{Tr}(A^k) =\sum_{i=1}^n\lambda_i^k.$$

Ainsi,
$$F(X) =\sum_{k=1}^{+\infty} \left(\sum_{i=1}^n\lambda_i^k\right)X^k.$$

Comme la série converge absolument pour
$$|X|<\frac{1}{|\lambda_{i_0}|},$$on peut permuter les deux sommes :
$$F(X) =\sum_{i=1}^n\sum_{k=1}^{+\infty}(\lambda_iX)^k.$$

On reconnaît alors une somme géométrique :
$$F(X) =\sum_{i=1}^n \frac{\lambda_iX}{1-\lambda_iX}.$$

On obtient donc une fraction rationnelle qui possède un pôle en
$$X=\frac{1}{\lambda_{i_0}},$$puisque $\lambda_{i_0}\neq0$.

On a ainsi obtenu simultanément
$$F(X)=0$$et une expression rationnelle possédant au moins un pôle.

C’est une absurdité.

Par conséquent,
$$\boxed{A\text{ est nilpotente}.}$$