Topologie du groupe linéaire et densité

Résolution.

1. Soit $M \in \mathcal{M}_n(\mathbb{K})$. Considérons le polynôme caractéristique de $M$ défini par :
   $$P_M(\lambda) = \det(M - \lambda I_n)$$

   Ce polynôme est de degré $n$, il n'est donc pas identiquement nul. Par conséquent, il possède au plus $n$ racines dans $\mathbb{K}$. Il existe donc un réel $\delta > 0$ tel que, pour tout $\lambda \in \mathbb{K}$ vérifiant $0 < |\lambda| < \delta$, on ait $P_M(\lambda) \neq 0$. Cela signifie que la matrice $M - \lambda I_n$ est inversible pour de telles valeurs de $\lambda$. Considérons alors la suite $(M_k)_{k \geq k_0}$ définie par $M_k = M - \frac{1}{k} I_n$. Pour $k$ assez grand, $\frac{1}{k} < \delta$, donc $M_k \in GL_n(\mathbb{K})$. Comme $\lim_{k \to \infty} M_k = M$, tout élément de $\mathcal{M}_n(\mathbb{K})$ est limite d'une suite d'éléments de $GL_n(\mathbb{K})$.

   $$\boxed{GL_n(\mathbb{K}) \text{ est dense dans } \mathcal{M}_n(\mathbb{K})}$$

2. Montrons que $GL_n(\mathbb{Q})$ est effectivement dense dans $\mathcal{M}_n(\mathbb{R})$. Soit $M \in \mathcal{M}_n(\mathbb{R})$ et $\epsilon > 0$. D'après la question précédente, il existe une matrice inversible $A \in GL_n(\mathbb{R})$ telle que :
   $$\| M - A \| < \frac{\epsilon}{2}$$

   Puisque $\mathbb{Q}$ est dense dans $\mathbb{R}$, l'ensemble des matrices à coefficients rationnels $\mathcal{M}_n(\mathbb{Q})$ est dense dans $\mathcal{M}_n(\mathbb{R})$. Il existe donc une suite $(Q_k)_{k \in \mathbb{N}}$ d'éléments de $\mathcal{M}_n(\mathbb{Q})$ convergeant vers $A$. L'application $\det : \mathcal{M}_n(\mathbb{R}) \to \mathbb{R}$ est polynomiale en les coefficients, elle est donc continue. Ainsi :

   $$\lim_{k \to \infty} \det(Q_k) = \det(A)$$

   Comme $A$ est inversible, $\det(A) \neq 0$. Par définition de la limite, il existe un rang $N$ tel que pour tout $k \geq N$, $\det(Q_k) \neq 0$. Pour $k$ suffisamment grand, $Q_k$ appartient donc à $GL_n(\mathbb{Q})$. En choisissant $k$ assez grand pour que $\| Q_k - A \| < \frac{\epsilon}{2}$, on obtient par inégalité triangulaire :

   $$\| Q_k - M \| \leq \| Q_k - A \| + \| A - M \| < \frac{\epsilon}{2} + \frac{\epsilon}{2} = \epsilon$$
   $$\boxed{GL_n(\mathbb{Q}) \text{ est dense dans } \mathcal{M}_n(\mathbb{R})}$$

3. L'application $\det : \mathcal{M}_n(\mathbb{K}) \to \mathbb{K}$ est continue. On remarque que $GL_n(\mathbb{K}) = \det^{-1} (\mathbb{K} \setminus \{0\})$. Comme $\{0\}$ est un fermé de $\mathbb{K}$, son complémentaire $\mathbb{K}^* = \mathbb{K} \setminus \{0\}$ est un ouvert de $\mathbb{K}$. Par continuité, $GL_n(\mathbb{K})$ est l'image réciproque d'un ouvert par une application continue, c'est donc un ouvert de $\mathcal{M}_n(\mathbb{K})$. Or, l'intérieur d'un ensemble ouvert est lui-même.
   $$\boxed{\text{Int}(GL_n(\mathbb{K})) = GL_n(\mathbb{K})}$$