Sous-groupes finis de GL(E) et réduction

Résolution.

1. Soit $u \in G$. Puisque $G$ est un groupe fini, notons $N = |G|$ son cardinal. D'après le théorème de Lagrange (ou par le fait que la suite $(u^k)_{k \in \mathbb{N}}$ est à valeurs dans un ensemble fini), nous savons que :
   $$u^N = \operatorname{id}_E$$
   Ainsi, le polynôme $P = X^N - 1$ est un polynôme annulateur de $u$. Ce polynôme $P$ est scindé sur $\mathbb{C}$ et ses racines sont les racines $N$-ièmes de l'unité :
   $$\mu_N = \{ e^{\frac{2ik\pi}{N}},   k \in \llbracket 0, N-1 \rrbracket \}$$
   Ces racines sont toutes distinctes, donc $P$ est à racines simples. D'après le critère de diagonalisation par les polynômes annulateurs :
   $$\boxed{u \text{ est diagonalisable}}$$

2. Soit $u \in G$ et $\lambda_1, \dots, \lambda_n$ ses valeurs propres (comptées avec multiplicité). D'après la question précédente, chaque $\lambda_j$ est une racine de l'unité, donc $|\lambda_j| = 1$. Cela implique que $\overline{\lambda_j} = \frac{1}{\lambda_j}$. Les valeurs propres de $u^{-1}$ sont les inverses des valeurs propres de $u$, c'est-à-dire $\frac{1}{\lambda_1}, \dots, \frac{1}{\lambda_n}$. Calculons alors la trace de $u^{-1}$ :
   $$\chi(u^{-1}) = \operatorname{Tr}(u^{-1}) = \sum_{j=1}^n \frac{1}{\lambda_j}$$
   Par ailleurs, en utilisant la propriété des conjugués :
   $$\overline{\chi(u)} = \overline{\sum_{j=1}^n \lambda_j} = \sum_{j=1}^n \overline{\lambda_j}$$
   Comme $\overline{\lambda_j} = \frac{1}{\lambda_j}$ pour tout $j$, on en déduit immédiatement :
   $$\boxed{\chi(u^{-1}) = \overline{\chi(u)}}$$

3. Étudions l'équivalence demandée. $(\Leftarrow)$ Supposons que les éléments de $G$ soient co-diagonalisables. Il existe une base $\mathcal{B}$ de $E$ telle que pour tout $u \in G$, $\operatorname{Mat}_{\mathcal{B}}(u)$ est une matrice diagonale. Comme le produit de deux matrices diagonales est commutatif, tous les éléments de $G$ commutent entre eux. $(\Rightarrow)$ Supposons $G$ commutatif. Tous les éléments de $G$ sont diagonalisables (d'après la question 1) et ils commutent deux à deux. On utilise le théorème de diagonalisation simultanée : une famille (éventuellement infinie) d'endomorphismes diagonalisables qui commutent deux à deux est co-diagonalisable. Rappel de la preuve par récurrence sur $n = \dim E$ : Si tous les éléments de $G$ sont des homothéties, n'importe quelle base convient. Sinon, il existe $u \in G$ qui n'est pas une homothétie. $E$ est la somme directe des sous-espaces propres $E_{\lambda}(u)$. Comme les éléments de $G$ commutent avec $u$, ils stabilisent chaque $E_{\lambda}(u)$. On conclut par hypothèse de récurrence sur la restriction de $G$ à chaque $E_{\lambda}(u)$ (de dimension strictement inférieure à $n$).
4. Considérons le groupe des matrices de permutation dans $\operatorname{GL}_n(\mathbb{C})$. Soit $\mathcal{S}_n$ le groupe symétrique. Pour $\sigma \in \mathcal{S}_n$, on définit $P_{\sigma}$ la matrice dont les coefficients sont $(P_{\sigma})_{i,j} = \delta_{i, \sigma(j)}$. L'ensemble $G = \{ P_{\sigma} \mid \sigma \in \mathcal{S}_n \}$ est un sous-groupe de $\operatorname{GL}_n(\mathbb{C})$ de cardinal $n!$. Dès que $n \ge 3$, le groupe $\mathcal{S}_n$ n'est pas commutatif (par exemple $(1,2)(2,3) \neq (2,3)(1,2)$), donc $G$ n'est pas commutatif. Comme $n!$ tend vers l'infini avec $n$, on peut construire des sous-groupes finis non commutatifs de cardinal arbitrairement grand. Autre exemple : Le groupe diédral $D_m$ d'ordre $2m$ (isométries d'un polygone régulier à $m$ côtés) peut être représenté dans $\operatorname{GL}_2(\mathbb{C})$. Pour $m \ge 3$, ce groupe n'est pas commutatif.