Topologie des matrices de rang fixé

$(\mathbb{1})$ Il y a plusieurs cas :

$(i)$ si $p = n$, $R_{p} = \mathrm{GL}_{n}(\mathbb{C})$, $R_{p}$ est donc $\textbf{ouvert}$, et comme il est dense mais non total, il n’est $\textbf{pas fermé}$,
$(ii)$ si $p = 0$, $R_{p} = \lbrace 0 \rbrace$ est donc $\textbf{fermé}$, mais $\textbf{pas ouvert}$ puisque limite de $\frac{1}{2^{k}}I_{n}$ quand $k$ tend vers l’infini,
$(iii)$ si $0 < p < n$, $R_{p}$ est d’intérieur vide puisque son complémentaire contient $\mathrm{GL}_{n}$ qui est dense, comme il n’est pas vide, il n’est $\textbf{pas ouvert}$. Il n’est $\textbf{pas fermé}$ non plus puisque la suite de matrices qui possèdent $p-1$ coefficients égaux à $1$ sur $p-1$ diagonales distinctes, et un coefficient jamais nul qui tend vers $0$ sur une $p$-ième diagonale distincte des précédentes tend vers une matrice de rang $p-1$, tout en étant une suite de matrices de rang $p$.

$(\mathbf{2})$ Il y a plusieurs cas :

$(i)$ si $p = n$, $R_{p} = \mathrm{GL}_{n}(\mathbb{C})$, $R_{p}$ est donc un $\textbf{ouvert dense}$, ce qui répond à la question,
$(ii)$ si $p = 0$, $R_{p} = \lbrace 0 \rbrace$, $R_{p}$ est donc un $\textbf{fermé d'intérieur vide}$, ce qui répond à la question,
$(iii)$ si $0 < p < n$, $R_{p}$ est $\textbf{d'intérieur vide}$ par ce qui a été dit dans le point $\mathbf{(1)}-(iii)$. Si ensuite $A$ est une matrice de rang $q<p$, par le pivot de Gauss, $A$ est équivalente à une matrice dont les $n-q$ dernière lignes sont constituées de $0$, et dont les $q$ premières sont indépendantes. Notons $B$ cette matrice. Soit $L$ une ligne indépendante des $q$ premières lignes de $B$. Les matrices $B_{k}$ dont les $q$ premières lignes sont celles de $B$ et dont la $q+1$-ième est égale à $2^{-k}L$ constituent une suite de matrices de rang $q+1$ qui converge vers $B$. Ainsi, l’adhérence de $R_{q+1}$ contient $R_{q}$, et par récurrence l’adhérence de $R_{p}$ contient $R_{q}$ pour tout $q \leq p$. Si enfin $A$ est une matrice de rang $p+1$, cela signifie qu’il existe une sous-matrice de $A$ d’ordre $p+1$ et de déterminant non nul. Si $H$ est une matrice de norme assez petite, alors ledit mineur de $A+H$ sera encore non nul (cela se voit avec la norme subordonnée de la norme $\lVert.\rVert_{\infty}$), et donc $A+H$ sera de rang $\geq p+1$. On déduit que toute matrice de rang $\geq p+1$ n’est pas adhérente à $R_{p}$. Ainsi,

$~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~\overline{R_{p}} = \bigcup_{q \leq p} R_{q}$.

$\mathbf{(3)}$ Il y a plusieurs cas :

$(i)$ si $p = n$, $R_{p} = \mathrm{GL}_{n}(\mathbb{C})$. Si $T$ et $T'$ sont deux matrices triangulaires supérieures inversibles, il existe un chemin les reliant. En effet, pour chaque couple $(i,j)$ où $i\neq j$, $T_{i,j}$ et $T'_{i,j}$ sont deux nombres complexes reliés par un chemin $\gamma_{i,j}$. Si $i = j$, comme $\mathbb{C}^{*}$ est connexe par arcs, il existe aussi un chemin $\gamma_{i,j}$ qui relie $T_{i,j}$ et $T'_{i,j}$ sans passer par $0$. En concaténant ces chemins, on obtient un chemin $\Gamma$ qui relie $T$ et $T'$ tout en demeurant dans l’ensemble des matrices triangulaires supérieurs inversibles. Ainsi, $T_n(\mathbb{C}) \cap \mathrm{GL}_n(\mathbb{C})$ est connexe par arcs. Si ensuite $(P,Q)$ est un couple de matrices inversibles, la multiplication par $P$ à gauche et par $Q^{-1}$ à droite est une application continue de $M_{n}(\mathbb{C})$ dans lui-même. On déduit que les images de $T_n(\mathbb{C}) \cap \mathrm{GL}_n(\mathbb{C})$ par ces applications sont des sous-ensembles connexes par arcs de $\mathrm{GL}_{n}(\mathbb{C})$, mais comme leur union est $\mathrm{GL}_{n}(\mathbb{C})$ et qu’ils se rencontrent tous en $I_{n}$, leur union est connexe par arc, donc $\mathrm{GL}_{n}(\mathbb{C})$ est connexe par arcs.
$(ii)$ si $p = 0$, $R_p = \lbrace 0 \rbrace$, $R_{p}$ est donc connexe par arcs,
$(iii)$ si $0 < p < n$, par un argument simillaire à $(ii)$ où l’on considère plutôt les matrices triangulaires supérieures à $n-p$ lignes nulles et de rang $p$, on trouve que $R_{p}$ est connexe par arcs.