Voisinages de l'identité et sous-groupes finis

Résolution.

1. Considérons un réel $\alpha \in \mathbb{R}$ tel que $\alpha/\pi \notin \mathbb{Q}$. On définit l'ensemble :
   $$G_0 = \left\{ \begin{pmatrix} e^{ik\alpha} & 0$$
   0 & I_{n-1} \end{pmatrix}, k \in \mathbb{Z} \right\}
   $G_0$ est un sous-groupe de $GL_n(\mathbb{C})$ car il contient l'identité ($k=0$), est stable par produit ($k+k'$) et par passage à l'inverse ($-k$). Puisque $\alpha$ n'est pas un multiple rationnel de $\pi$, les $e^{ik\alpha}$ sont tous distincts, donc $G_0$ est infini. Calculons la norme de $g_k - I_n$ pour $g_k \in G_0$ :
   $$\|g_k - I_n\| = \left\| \text{diag}(e^{ik\alpha}-1, 0, \dots, 0) \right\| = |e^{ik\alpha} - 1|$$
   Comme $e^{ik\alpha}$ est sur le cercle unité et que $e^{ik\alpha} \neq -1$ (car $\alpha/\pi$ est irrationnel), on a :
   $$\boxed{ \forall g \in G_0,   \|g - I_n\| < 2 }$$
   Ainsi, $G_0$ est un sous-groupe infini contenu dans $B(I_n, 2)$.

2. Soit $r < 2$ et $G \subset \bar{B}(I_n, r)$.
   1. Soit $g \in G$. Comme $G$ est un groupe, pour tout $k \in \mathbb{Z}$, $g^k \in G$. Ainsi, la suite $(g^k)_{k \in \mathbb{Z}}$ est bornée dans $\mathcal{M}_n(\mathbb{C})$ par $\|I_n\| + r$. Un élément d'un sous-groupe borné de $GL_n(\mathbb{C})$ est nécessairement diagonalisable. En effet, sa forme de Dunford $g = D+N$ imposerait $N=0$ pour éviter une croissance polynomiale des puissances. Ses valeurs propres sont toutes de module 1 pour éviter une croissance ou décroissance géométrique. Soit $\lambda$ une valeur propre de $g$. On a $|\lambda| = 1$. Par propriété de la norme subordonnée, on a pour tout $k \in \mathbb{Z}$ :
      $$|1 - \lambda^k| \le \|I_n - g^k\| \le r < 2$$
      Posons $\lambda = e^{i\theta}$ avec $\theta \in [0, 2\pi[$. Si $\theta \neq 0$, la suite $(\lambda^k)_{k \in \mathbb{N}}$ est soit dense dans le cercle unité, soit formée des sommets d'un polygone régulier contenant un point arbitrairement proche de $-1$. Dans les deux cas, il existe $k \in \mathbb{Z}$ tel que $\lambda^k$ soit proche de $-1$, ce qui rend $|1 - \lambda^k|$ proche de $2$. Plus précisément, si $\lambda \neq 1$, l'ensemble $\{|1 - \lambda^k|, k \in \mathbb{Z}\}$ admet pour borne supérieure la valeur $2$. Or, cet ensemble est majoré par $r < 2$. Ceci impose $\lambda = 1$. La seule valeur propre de $g$ est donc $1$. Comme $g$ est diagonalisable, on en déduit :
      $$\boxed{ g = I_n }$$
      Ainsi $G = \{I_n\}$. La propriété est vérifiée pour tout $p \in \mathbb{N}^*$, par exemple $p=1$.

   2. D'après la question précédente, si $r < 2$, alors $G = \{I_n\}$. Si $g_1, g_2 \in G$, alors $g_1 = I_n$ et $g_2 = I_n$. L'implication $\forall g \in G, \operatorname{Tr}(g_1 g) = \operatorname{Tr}(g_2 g) \implies g_1 = g_2$ est alors immédiate puisque l'on a déjà $g_1 = g_2 = I_n$. Remarque : Même si $G$ n'était pas trivial, l'application $X \mapsto \operatorname{Tr}(g_1 X)$ définie sur $\text{Vect}(G)$ permet de caractériser $g_1$ dès lors que la forme trace est non dégénérée sur l'algèbre engendrée par $G$.

   3. Comme nous avons montré que sous l'hypothèse $r < 2$, on a $G = \{I_n\}$, le groupe $G$ est bien fini (son cardinal est 1).
      $$\boxed{ \text{Card}(G) = 1 }$$

3. Cas de la boule ouverte $B(I_n, 2)$ : Supposons qu'il existe un sous-groupe compact infini $K \subset B(I_n, 2)$. L'application $f : g \mapsto \|g - I_n\|$ est continue sur le compact $K$. Elle atteint donc son maximum $r_0$ en un point $g_0 \in K$. Comme $K \subset B(I_n, 2)$, on a $r_0 = \|g_0 - I_n\| < 2$. On a donc $K \subset \bar{B}(I_n, r_0)$ avec $r_0 < 2$. D'après la question 2.(c), $K$ est fini, ce qui est absurde. Cas de la boule fermée $\bar{B$(I_n, 2) :} Considérons le groupe des matrices de rotation (pour $n \ge 1$) :
   $$K = \left\{ \text{diag}(e^{i\theta}, 1, \dots, 1) \mid \theta \in \mathbb{R} \right\}$$
   Ce groupe est l'image du cercle unité (compact) par une application continue, il est donc compact. De plus, il est infini. Pour tout $g_\theta \in K$, $\|g_\theta - I_n\| = |e^{i\theta} - 1| \le 2$. Donc $K \subset \bar{B}(I_n, 2)$.

   Conclusion :

   $$\boxed{ \text{B(I, 2) ne contient aucun S.G. compact infini, mais } \bar{B}(I, 2) \text{ en contient.} }$$