Petits sous-groupes du groupe linéaire

Résolution.

1. 1. Soit $g \in G$ et $\lambda \in \mathbb{C}$ une valeur propre de $g$. Puisque $G$ est un groupe, pour tout $k \in \mathbb{Z}$, $g^k \in G$. D'après l'énoncé, pour tout $k \in \mathbb{Z}$, $\|g^k - I_n\| \leq \alpha$, donc par inégalité triangulaire :
      $$\|g^k\| \leq \|I_n\| + \alpha = 1 + \alpha$$
      La suite $(g^k)_{k \in \mathbb{Z}}$ est donc bornée. Or, si $\lambda$ est valeur propre de $g$, alors $\lambda^k$ est valeur propre de $g^k$. Pour toute norme subordonnée (et par extension pour toute norme par équivalence), le rayon spectral est majoré par la norme. Ici, on a directement $|\lambda^k| \leq \|g^k\| \leq 1+\alpha$. Si $|\lambda| > 1$, alors $|\lambda^k| \to +\infty$ quand $k \to +\infty$, ce qui est exclu. Si $|\lambda| < 1$, alors $|\lambda^k| = |1/\lambda|^{-k} \to +\infty$ quand $k \to -\infty$, ce qui est exclu. On en déduit :
      $$\boxed{|\lambda| = 1}$$

   2. Supposons $\lambda \neq 1$. On sait que $\lambda = e^{i\theta}$ avec $\theta \in ]0, 2\pi[$. Puisque $g^k \in G$ pour tout $k \in \mathbb{Z}$, l'inégalité $\|g^k - I_n\| \leq \alpha$ impose que pour toute valeur propre $\mu$ de $g^k$, on a $|\mu - 1| \leq \alpha$. En particulier, pour $\mu = \lambda^k$, on doit avoir :
      $$\forall k \in \mathbb{Z},   |e^{ik\theta} - 1| \leq \alpha < 1$$
      Or, l'ensemble $\{e^{ik\theta}, k \in \mathbb{Z}\}$ est soit un sous-groupe fini du cercle unité (si $\theta \in 2\pi \mathbb{Q}$), soit dense dans le cercle unité. Dans les deux cas, si $\theta \neq 0$, il existe toujours un entier $k$ tel que $e^{ik\theta}$ soit dans le demi-plan gauche (par exemple proche de $-1$). Pour un tel $k$, $|e^{ik\theta} - 1| \geq \sqrt{2} > 1$, ce qui contredit l'hypothèse. L'unique valeur propre possible est donc :
      $$\boxed{\text{Sp}(g) = \{1\}}$$

   3. Soit $h = g - I_n$. Le polynôme caractéristique de $g$ est $\chi_g(X) = (X-1)^n$. D'après le théorème de Cayley-Hamilton, on a $(g - I_n)^n = 0_n$.
      $$\boxed{h^n = 0_n}$$
      Ainsi $h$ est nilpotente.

   4. Puisque $g = I_n + h$ et que $h$ et $I_n$ commutent, on peut utiliser la formule du binôme :
      $$g^k = (I_n + h)^k = \sum_{j=0}^{n-1} \binom{k}{j} h^j$$
      Supposons $h \neq 0$. Soit $p \in \{1, \dots, n-1\}$ l'indice de nilpotence de $h$ (tel que $h^p = 0$ et $h^{p-1} \neq 0$). Alors :
      $$g^k = I_n + k h + \frac{k(k-1)}{2} h^2 + \dots + \binom{k}{p-1} h^{p-1}$$
      C'est une expression polynomiale en $k$ dont le coefficient dominant est $\frac{1}{(p-1)!} h^{p-1} \neq 0$. Il en résulte que $\|g^k\| \to +\infty$ quand $k \to +\infty$. Ceci contredit le fait que la suite $(g^k)$ est bornée (car incluse dans la boule $B(I_n, \alpha)$). L'unique possibilité est donc $h = 0$, soit :
      $$\boxed{g = I_n}$$

2. Soit $\|\cdot\|'$ une norme quelconque sur $\mathcal{M}_n(\mathbb{C})$. On sait qu'en dimension finie, toutes les normes sont équivalentes. Soit $\|\cdot\|$ une norme d'algèbre sur cet espace. Il existe $C > 0$ tel que $\|A\| \leq C \|A\|'$ pour tout $A$. D'après la question 1, le résultat est vrai pour la norme $\|\cdot\|$ avec $\alpha = 1/2$. Posons $r = \frac{1}{2C}$. Si $G \subset B'(I_n, r)$, alors pour tout $g \in G$ :
   $$\|g - I_n\| \leq C \|g - I_n\|' < C \cdot \frac{1}{2C} = \frac{1}{2}$$
   En appliquant le résultat de la question 1, on conclut que $G = \{I_n\}$.

3. Reprenons l'argument de la question 1(b). Si $\lambda \in \mathbb{U} \setminus \{1\}$, on cherche s'il existe $k \in \mathbb{Z}$ tel que $|\lambda^k - 1| \geq \sqrt{3}$. Soit $\lambda = e^{i\theta}$ avec $\theta \in ]0, \pi]$. Cas 1 : $\theta \in [2\pi/3, \pi]$. Alors $|\lambda - 1| = 2\sin(\theta/2) \geq 2\sin(\pi/3) = \sqrt{3}$. L'inégalité est vérifiée pour $k=1$. Cas 2 : $\theta \in ]0, 2\pi/3[$. L'arc de cercle $\{e^{it}, t \in [2\pi/3, 4\pi/3]\}$ a une longueur de $2\pi/3$. Comme on "saute" sur le cercle avec un pas de $\theta < 2\pi/3$, on est certain de tomber au moins une fois dans cet arc (ou de le "sauter" en atterrissant plus loin, mais ici le pas est plus petit que la fenêtre). Plus rigoureusement, soit $k_0 = \min \{ k \in \mathbb{N}^* \mid k\theta \geq 2\pi/3 \}$. Alors $(k_0-1)\theta < 2\pi/3$, donc $k_0\theta < 2\pi/3 + \theta < 2\pi/3 + 2\pi/3 = 4\pi/3$. Ainsi $k_0\theta \in [2\pi/3, 4\pi/3]$, ce qui implique $|\lambda^{k_0} - 1| \geq \sqrt{3}$. Conclusion : Si $\sup_{g \in G} \|g-I_n\| < \sqrt{3}$, alors pour tout $\lambda \in \text{Sp}(g)$, on doit avoir $\lambda=1$. La suite du raisonnement (nilpotence) reste inchangée.