Le théorème de Marden

Notations préliminaires

Quitte à diviser $P$ par son coefficient dominant, ce qui ne change pas les racines de $P'$, on écrit $P(z)=(z-A)(z-B)(z-C)$. En développant, $P(z)=z^{3}-e_1z^{2}+e_2z-e_3$ avec $e_1=A+B+C$, donc $P'(z)=3z^{2}-2e_1z+e_2=3(z-\alpha)(z-\beta)$ et
$$\alpha+\beta=\frac{2}{3}(A+B+C)=2G,\qquad G:=\frac{A+B+C}{3}.$$Le milieu des racines de $P'$ est donc le centre de gravité $G$ du triangle. On pose enfin $R(z):=\frac{1}{3}P'(z)=(z-\alpha)(z-\beta)$.

Étape 1 : existence, unicité, et centre de l’ellipse inscrite

Existence. Il existe une bijection affine $f$ du plan réel envoyant les sommets d’un triangle équilatéral $A_0B_0C_0$ sur $A,B,C$. Le cercle inscrit de $A_0B_0C_0$ est tangent aux trois côtés en leurs milieux (par les trois symétries axiales du triangle), et son centre est le centre de gravité $G_0$. Or une application affine bijective transforme une ellipse en une ellipse, conserve les milieux, la tangence et le centre de gravité. Donc $\mathcal{E}:=f(\text{cercle inscrit})$ est une ellipse tangente à $(BC),(CA),(AB)$ en $a,b,c$, et son centre est $f(G_0)=G$.

Unicité. Soit $\mathcal{C}$ une conique de $\mathbb{P}^{2}(\mathbb{C})$ tangente aux trois droites en $a,b,c$ et supposons $\mathcal{C}\neq\mathcal{E}$. Comme $\mathcal{E}$ est irréductible, $\mathcal{C}$ et $\mathcal{E}$ n’ont pas de composante commune, et le théorème de Bézout borne le nombre de leurs points d’intersection comptés avec multiplicité par $2\times 2=4$. Mais la tangence en un point commun impose une multiplicité d’intersection $\geqslant 2$ : on obtient au moins $6>4$, contradiction. D’où $\mathcal{C}=\mathcal{E}$.

Étape 2 : un critère analytique de tangence focale

Lemme. Soient $F_1,F_2\in\mathbb{C}$ (éventuellement égaux), $M\notin\{F_1,F_2\}$, et $\mathcal{K}$ l’ellipse de foyers $F_1,F_2$ passant par $M$ (un cercle si $F_1=F_2$). Pour $u\in\mathbb{C}^{*}$, la droite $M+\mathbb{R}u$ est tangente à $\mathcal{K}$ en $M$ si et seulement si
$$\frac{(F_1-M)(F_2-M)}{u^{2}}\in\mathbb{R}_{<0}.$$

Démonstration. Posons $v_j=F_j-M$. La réflexion d’axe $M+\mathbb{R}u$ envoie un vecteur $v$ sur $u^{2}\bar v/|u|^{2}$. Elle échange les demi-droites $\mathbb{R}_{+}v_1$ et $\mathbb{R}_{+}v_2$ si et seulement s’il existe $t>0$ avec $u^{2}\bar v_1=t|u|^{2}v_2$, c’est-à-dire $v_1v_2/u^{2}=|v_1|^{2}/(t|u|^{2})\in\mathbb{R}_{>0}$ : c’est la caractérisation de la bissectrice intérieure de $\widehat{F_1MF_2}$. La bissectrice extérieure lui est perpendiculaire, donc s’obtient en remplaçant $u$ par $iu$, ce qui change $u^{2}$ en $-u^{2}$ : elle correspond à $v_1v_2/u^{2}\in\mathbb{R}_{<0}$. On conclut par la propriété focale de l’ellipse : la tangente en $M$ est exactement la bissectrice extérieure de $\widehat{F_1MF_2}$ (pour $F_1=F_2$, la tangente est la perpendiculaire au rayon, ce que la formule redonne). $\square$

Étape 3 : le calcul clé

Pour $c=\frac{A+B}{2}$, on a $c-A=\frac{B-A}{2}$, $c-B=-\frac{B-A}{2}$ et $(c-A)+(c-B)=0$, d’où
$$P'(c)=(c-A)(c-B)+(c-C)\bigl[(c-A)+(c-B)\bigr]=-\frac{(B-A)^{2}}{4},\qquad\text{soit}\qquad R(c)=-\frac{(B-A)^{2}}{12}.$$Par permutation circulaire, $R(a)=-\frac{(C-B)^{2}}{12}$ et $R(b)=-\frac{(A-C)^{2}}{12}$. En particulier, pour chacun des trois milieux, le quotient de $R$ par le carré du vecteur directeur du côté correspondant vaut $-\frac{1}{12}\in\mathbb{R}_{<0}$ : d’après le lemme, si $\alpha,\beta$ étaient les foyers d’une ellipse passant par ces milieux, celle-ci y serait tangente aux côtés. Il reste à identifier les foyers effectifs de $\mathcal{E}$.

Étape 4 : identification des foyers

Soient $F_1,F_2$ les foyers de $\mathcal{E}$. Le centre de $\mathcal{E}$ est $G$ (étape 1) et c’est le milieu des foyers, donc $F_{1,2}=G\pm p$ pour un $p\in\mathbb{C}$ ; de même $\alpha,\beta=G\pm q$. Posons $Q(z)=(z-F_1)(z-F_2)=(z-G)^{2}-p^{2}$, de sorte que
$$k:=Q-R=q^{2}-p^{2}\quad\text{est une constante.}$$Pour $M\in\{a,b,c\}$ de côté associé de vecteur directeur $u_M$, la tangence de $\mathcal{E}$ donne $Q(M)/u_M^{2}\in\mathbb{R}_{<0}$, tandis que l’étape 3 donne $R(M)/u_M^{2}=-\frac{1}{12}\in\mathbb{R}_{<0}$. Par quotient, $Q(M)=\mu_M R(M)$ avec $\mu_M\in\mathbb{R}_{>0}$, d’où $k=(\mu_M-1)R(M)$.

Supposons $k\neq 0$. Alors $\mu_M\neq 1$ et $R(M)=\frac{k}{\mu_M-1}\in\mathbb{R}^{*}k$ pour les trois milieux, donc les trois nombres $R(a),R(b),R(c)$ sont deux à deux proportionnels sur $\mathbb{R}$. Avec $x=B-C$, $y=C-A$, $z=A-B$, cela signifie que $x^{2},y^{2},z^{2}$ sont deux à deux $\mathbb{R}$-proportionnels, alors que $x+y+z=0$. Quitte à diviser par $z$, on peut supposer $z=1$, donc $x^{2},y^{2}\in\mathbb{R}$ et $x+y=-1$ : chacun de $x,y$ est réel ou imaginaire pur. Si l’un est réel et l’autre imaginaire pur non nul, la partie imaginaire de $x+y$ est non nulle, ce qui contredit $x+y=-1$ ; s’ils sont tous deux imaginaires purs, leur somme l’est aussi, même contradiction ; s’ils sont tous deux réels, alors $y/z\in\mathbb{R}$ et $A,B,C$ sont alignés, exclu. Dans tous les cas, contradiction.

Donc $k=0$, c’est-à-dire $p^{2}=q^{2}$, et $\{G+p,G-p\}=\{G+q,G-q\}$ : les foyers de $\mathcal{E}$ sont exactement $\alpha$ et $\beta$. $\blacksquare$

Remarques

• Le théorème contient le théorème de Gauss–Lucas en degré $3$ : les racines de $P'$, foyers d’une ellipse inscrite, sont dans le triangle, donc dans l’enveloppe convexe des racines de $P$.
• Le cas $\alpha=\beta$ est celui d’un triangle équilatéral : l’ellipse dégénère en le cercle inscrit, et $P'$ a une racine double, à savoir le centre $G$. Réciproquement, $\mathcal{E}$ est un cercle si et seulement si $P'$ a une racine double, si et seulement si le discriminant de $P'$ s’annule.
• La tangence en les milieux force le rapport des aires : $\mathrm{aire}(\mathcal{E})/\mathrm{aire}(ABC)=\pi/(3\sqrt{3})$, l’ellipse de Steiner étant l’ellipse inscrite d’aire maximale. Ces deux faits sont invariants par transformation affine, donc se vérifient sur le triangle équilatéral.
• Les demi-axes se lisent sur les coefficients : si $M=\max$ et $m=\min$ des modules de $\frac{1}{3}\bigl(e_1\pm\sqrt{e_1^{2}-3e_2}\bigr)$ convenablement normalisés, on obtient $a_{\mathcal{E}}=\frac{1}{6}\bigl(|A+ jB+j^{2}C|+|A+j^{2}B+jC|\bigr)$ et $b_{\mathcal{E}}=\frac{1}{6}\bigl||A+jB+j^{2}C|-|A+j^{2}B+jC|\bigr|$, où $j=e^{2i\pi/3}$ : la transformée de Fourier discrète du triplet $(A,B,C)$ paramètre l’ellipse.
• L’étape 4 n’utilise la géométrie que par la seule non-dégénérescence du triangle : c’est elle qui interdit aux trois carrés $(B-C)^{2},(C-A)^{2},(A-B)^{2}$ d’être réellement proportionnels. Le cas d’un triangle rectangle, qui rendrait deux de ces carrés proportionnels, est écarté par la troisième relation.