Tout ou rien

Montrons que ce sont les matrices dont le polynôme minimal est irréductible sur $\mathbb{R}$, c’est-à-dire, compte tenu de la classification des irréductibles réels :
$$M=\lambda I_n\ \ (\lambda\in\mathbb{R}),\qquad\text{ou}\qquad \mu_M=X^{2}-2aX+(a^{2}+b^{2})\ \text{ avec } b\neq 0 .$$Dans le second cas, $M$ est semblable à une matrice diagonale par blocs formée de $n/2$ copies du bloc $\begin{pmatrix}a&-b\\ b&a\end{pmatrix}$ ; en particulier $n$ est pair.

Notons $\mu_M$ le polynôme minimal de $M$. Pour $P\in\mathbb{R}[X]$,
$$P(M)=0\iff \mu_M\mid P .$$La condition de l’énoncé s’écrit donc : dès que $\mu_M\nmid P$, la matrice $P(M)$ est inversible.

Supposons $\mu_M$ réductible : $\mu_M=P_1P_2$ avec $1\leqslant\deg P_i<\deg\mu_M$.

Alors $P_1(M)\neq 0$, par minimalité de $\mu_M$. Et $P_1(M)$ n’est pas inversible : sinon, de
$$P_1(M)\,P_2(M)=\mu_M(M)=0$$on tirerait $P_2(M)=0$, contredisant $\deg P_2<\deg\mu_M$. La matrice $P_1(M)$ est donc non nulle et non inversible : $M$ ne convient pas.

Supposons $\mu_M$ irréductible et soit $P\in\mathbb{R}[X]$ avec $P(M)\neq 0$, c’est-à-dire $\mu_M\nmid P$. L’irréductibilité de $\mu_M$ entraîne
$$\operatorname{pgcd}(\mu_M,P)=1,$$les seuls diviseurs unitaires de $\mu_M$ étant $1$ et $\mu_M$ lui-même. Le théorème de Bézout fournit $U,V\in\mathbb{R}[X]$ tels que
$$U\mu_M+VP=1 .$$En évaluant en $M$ et en utilisant $\mu_M(M)=0$ :
$$V(M)\,P(M)=I_n .$$Donc $P(M)$ est inversible, d’inverse $V(M)$. $\blacksquare$

Donnons une description explicite.
Un polynôme irréductible de $\mathbb{R}[X]$ est de degré $1$ ou $2$.

Si $\mu_M=X-\lambda$, alors $M=\lambda I_n$. Réciproquement, toute matrice scalaire convient : $P(\lambda I_n)=P(\lambda)I_n$ est nulle si $P(\lambda)=0$, inversible sinon.

Si $\mu_M=X^{2}-2aX+(a^{2}+b^{2})$ avec $b\neq 0$, ce polynôme est scindé à racines simples sur $\mathbb{C}$, de racines $a\pm ib$. La matrice $M$ est donc diagonalisable sur $\mathbb{C}$, de spectre $\{a+ib,a-ib\}$ ; étant réelle, les deux valeurs propres ont même multiplicité $n/2$, et la réduction des endomorphismes réels sans valeur propre réelle donne la forme par blocs annoncée. $\square$