Topologie des matrices diagonalisables

1. Étude du cas complexe.

1. Soit $A \in \mathcal{M}_n(\mathbb{C})$. Puisque $\mathbb{C}$ est algébriquement clos, $A$ est trigonalisable. Il existe $P \in GL_n(\mathbb{C})$ et $T$ triangulaire supérieure telles que $A = PTP^{-1}$. Soit $T = (t_{i,j})$. On définit pour $\epsilon > 0$ la matrice $T_\epsilon$ par $(T_\epsilon)_{i,j} = t_{i,j}$ si $i \neq j$ et $(T_\epsilon)_{i,i} = t_{i,i} + i\epsilon$. Pour $\epsilon$ assez petit, les coefficients diagonaux de $T_\epsilon$ sont deux à deux distincts. En effet, $t_{i,i} + i\epsilon = t_{j,j} + j\epsilon \iff \epsilon(i-j) = t_{j,j} - t_{i,i}$. Il n'y a qu'un nombre fini de valeurs de $\epsilon$ problématiques. Alors $A_\epsilon = P T_\epsilon P^{-1}$ possède $n$ valeurs propres distinctes, donc $A_\epsilon \in \mathcal{D}_n(\mathbb{C})$. Comme $A_\epsilon \to A$ quand $\epsilon \to 0$, on a :
   $$\boxed{\overline{\mathcal{D}_n(\mathbb{C})} = \mathcal{M}_n(\mathbb{C})}$$

2. Montrons que $\text{Int}(\mathcal{D}_n(\mathbb{C})) = \Omega_n(\mathbb{C})$. Si $A \in \Omega_n(\mathbb{C})$, son polynôme caractéristique $\chi_A$ possède $n$ racines distinctes. Par continuité des racines d'un polynôme (ou par le caractère ouvert de l'ensemble des polynômes à racines simples via le discriminant), il existe un voisinage de $A$ tel que toute matrice $M$ proche de $A$ a encore $n$ racines distinctes. Ainsi $M \in \Omega_n(\mathbb{C}) \subset \mathcal{D}_n(\mathbb{C})$. Réciproquement, si $A \in \mathcal{D}_n(\mathbb{C}) \setminus \Omega_n(\mathbb{C})$, $A$ possède une valeur propre $\lambda$ de multiplicité $m \ge 2$. Dans une base de diagonalisation, le bloc associé à $\lambda$ est $\lambda I_m$. En remplaçant ce bloc par un bloc de Jordan $\lambda I_m + \epsilon E_{1,2}$, on obtient une matrice $A_\epsilon$ non diagonalisable qui tend vers $A$.
   $$\boxed{\text{Int}(\mathcal{D}_n(\mathbb{C})) = \Omega_n(\mathbb{C})}$$

2. Étude du cas réel.

1. L'argument est identique au cas complexe : si $A$ a $n$ racines réelles distinctes, une petite perturbation $M$ de $A$ aura $n$ racines complexes distinctes proches des racines de $A$. Comme ces racines sont proches de réels et que les racines non réelles vont par paires conjuguées, si la perturbation est assez petite, les racines restent réelles.
2. Si $A$ est diagonalisable avec une valeur propre $\lambda$ de multiplicité $m \ge 2$. Il existe $P \in GL_n(\mathbb{R})$ telle que $P^{-1}AP = D$. En posant $D_\epsilon = D + \epsilon E_{1,2}$ où $E_{1,2}$ agit sur le bloc $\lambda I_m$, $D_\epsilon$ n'est pas diagonalisable (son sous-espace propre pour $\lambda$ est de dimension $m-1$). Alors $P D_\epsilon P^{-1} \notin \mathcal{D}_n(\mathbb{R})$ et converge vers $A$.
   $$\boxed{\text{Int}(\mathcal{D}_n(\mathbb{R})) = \Omega_n(\mathbb{R})}$$

3. C'est le théorème de Schur : si $A \in \mathcal{T}_n(\mathbb{R})$, son polynôme caractéristique est scindé. En appliquant le procédé d'orthonormalisation de Gram-Schmidt à une base de trigonalisation, on obtient une base orthonormale dans laquelle la matrice est triangulaire.
4. Soit $(A_k)$ une suite de $\mathcal{T}_n(\mathbb{R})$ convergeant vers $A$. Pour chaque $k$, il existe $P_k \in O_n(\mathbb{R})$ et $T_k$ triangulaire supérieure telles que $A_k = P_k T_k P_k^T$. Par compacité de $O_n(\mathbb{R})$, on peut extraire une sous-suite $(P_{\phi(k)})$ convergeant vers $P \in O_n(\mathbb{R})$. Alors $T_{\phi(k)} = P_{\phi(k)}^T A_{\phi(k)} P_{\phi(k)} \to P^T A P$. Comme l'ensemble des matrices triangulaires supérieures est un fermé de $\mathcal{M}_n(\mathbb{R})$, $T = P^T A P$ est triangulaire supérieure. Ainsi $A = PTP^T$ est trigonalisable.
   $$\boxed{\mathcal{T}_n(\mathbb{R}) \text{ est fermé}}$$

5. On a $\mathcal{D}_n(\mathbb{R}) \subset \mathcal{T}_n(\mathbb{R})$, donc $\overline{\mathcal{D}_n(\mathbb{R})} \subset \mathcal{T}_n(\mathbb{R})$ car ce dernier est fermé. Inversement, si $A \in \mathcal{T}_n(\mathbb{R})$, on peut approcher sa forme triangulaire par des matrices à coefficients diagonaux distincts (diagonalisables).
   $$\boxed{\overline{\mathcal{D}_n(\mathbb{R})} = \mathcal{T}_n(\mathbb{R})}$$

3. Connexité.

Soit $A \in \mathcal{D}_n(\mathbb{R})$. Considérons le chemin $\gamma : [0,1] \to \mathcal{M}_n(\mathbb{R})$ défini par $\gamma(t) = tA$. Pour tout $t \in [0,1]$, si $A$ est diagonalisable, alors $tA$ est également diagonalisable (si $A = PDP^{-1}$, alors $tA = P(tD)P^{-1}$). Ce chemin est continu, $\gamma(0) = 0$ et $\gamma(1) = A$. Toute matrice de $\mathcal{D}_n(\mathbb{R})$ peut donc être reliée à la matrice nulle $0$ (qui est diagonalisable).