Lemme de Schur et théorie des caractères

Soient $G$ un groupe fini d'ordre $n$ et $V$ un $\mathbb{C}$ -espace vectoriel de dimension finie. On considère un morphisme de groupes $\rho: G \rightarrow \mathrm{GL}(V)$ . On appelle caractère de la représentation $\rho$ l'application $\chi: G \rightarrow \mathbb{C}$ définie par $\chi(s) = \operatorname{Tr}(\rho(s))$ .

On dit que $\rho$ est une représentation irréductible si les seuls sous-espaces de $V$ stables par tous les endomorphismes $\rho(s)$ (pour $s \in G$ ) sont $\{0\}$ et $V$ .

Propriétés élémentaires du caractère. Montrer les points suivants pour tout $(s, t) \in G^2$ $(s, t) \in G^{2}$ :
1. $\chi(1_G) = \operatorname{dim}(V)$ .
2. $\chi(s^{-1}) = \overline{\chi(s)}$ .
3. $\chi(st) = \chi(ts)$ .
Lemme de Schur. Soient $\rho_1: G \rightarrow \mathrm{GL}(V_1)$ $ρ_{1} : G \to GL (V_{1})$ et $\rho_2: G \rightarrow \mathrm{GL}(V_2)$ $ρ_{2} : G \to GL (V_{2})$ deux représentations irréductibles de $G$ $G$ . Soit $f: V_1 \rightarrow V_2$ $f : V_{1} \to V_{2}$ une application linéaire telle que pour tout $s \in G$ $s \in G$ , $\rho_2(s) \circ f = f \circ \rho_1(s)$ $ρ_{2} (s) \circ f = f \circ ρ_{1} (s)$ .
1. Montrer que $f$ est soit nulle, soit un isomorphisme.
2. On suppose ici $V_1 = V_2$ et $\rho_1 = \rho_2$ . Prouver que $f$ est une homothétie.
Applications aux projecteurs de Schur. On se donne $h \in \mathcal{L}(V_1, V_2)$ $h \in L (V_{1}, V_{2})$ quelconque et on définit l'application :
$h_{0} = \frac{1}{|G|} \sum_{s \in G} \rho_2(s)^{-1} \circ h \circ \rho_1(s)$
1. Montrer que si $\rho_1$ et $\rho_2$ ne sont pas isomorphes (c'est-à-dire qu'il n'existe aucun isomorphisme $f$ vérifiant la relation de la question 2), alors $h_0 = 0$ .
2. On suppose $V_1 = V_2$ et $\rho_1 = \rho_2$ . Exprimer $h_0$ en fonction de $\operatorname{Tr}(h)$ et $\operatorname{Id}_{V_1}$ .

1.

Pour la question 1.(b), utiliser le fait que $s$ est d'ordre fini, donc $\rho(s)$ est diagonalisable et ses valeurs propres sont des racines de l'unité.

2.

Pour la question 2.(a), considérer le noyau et l'image de $f$ et utiliser l'irréductibilité.

3.

Pour la question 2.(b), utiliser le fait que tout endomorphisme sur un $\mathbb{C}$ -espace vectoriel admet au moins une valeur propre.

4.

Pour la question 3, vérifier d'abord que $h_0$ vérifie la relation de commutation de la question 2.

Idées clés

•

Irréductibilité : absence de sous-espaces stables non triviaux.

•

Stabilité du noyau et de l'image d'un morphisme de représentations.

•

Sur $\mathbb{C}$ , tout endomorphisme possède un spectre non vide.

•

Propriété de la trace : $\operatorname{Tr}(AB) = \operatorname{Tr}(BA)$ .

Résolution.

1. Par définition, $\rho(1_G) = \operatorname{Id}_V$ . Ainsi, $\chi(1_G) = \operatorname{Tr}(\operatorname{Id}_V) = \operatorname{dim}(V)$ . $\boxed{\chi(1_G) = \dim V}$
2. Soit $s \in G$ . Comme $G$ est fini, il existe $m \in \mathbb{N}^*$ tel que $s^m = 1_G$ . Alors $\rho(s)^m = \rho(s^m) = \operatorname{Id}_V$ . Le polynôme $X^m - 1$ , scindé à racines simples sur $\mathbb{C}$ , est un polynôme annulateur de $\rho(s)$ . L'endomorphisme $\rho(s)$ est donc diagonalisable et ses valeurs propres $\lambda_1, \dots, \lambda_d$ sont des racines $m$ -ièmes de l'unité. En particulier, pour tout $j$ , $|\lambda_j| = 1$ , d'où $\lambda_j^{-1} = \overline{\lambda_j}$ . Comme les valeurs propres de $\rho(s^{-1}) = \rho(s)^{-1}$ sont les $\lambda_j^{-1}$ , on a : $\chi(s^{-1}) = \sum_{j=1}^d \lambda_j^{-1} = \sum_{j=1}^d \overline{\lambda_j} = \overline{\sum_{j=1}^d \lambda_j} = \overline{\chi(s)}$ $\boxed{\chi(s^{-1}) = \overline{\chi(s)}}$
3. En utilisant la propriété de morphisme et la cyclicité de la trace : $\chi(st) = \operatorname{Tr}(\rho(s)\rho(t)) = \operatorname{Tr}(\rho(t)\rho(s)) = \chi(ts)$
1. Soit $x \in \ker f$ . Alors pour tout $s \in G$ : $f(\rho_1(s)(x)) = \rho_2(s)(f(x)) = \rho_2(s)(0) = 0$ Donc $\ker f$ est stable par tous les $\rho_1(s)$ . Par irréductibilité de $\rho_1$ , $\ker f = \{0\}$ ou $\ker f = V_1$ . Soit $y \in \operatorname{Im} f$ , $y = f(x)$ . Alors pour tout $s \in G$ : $\rho_2(s)(y) = \rho_2(s)(f(x)) = f(\rho_1(s)(x)) \in \operatorname{Im} f$ L'image de $f$ est stable par tous les $\rho_2(s)$ . Par irréductibilité de $\rho_2$ , $\operatorname{Im} f = \{0\}$ ou $\operatorname{Im} f = V_2$ . Conclusion : Si $f \neq 0$ , alors $\ker f = \{0\}$ (injectivité) et $\operatorname{Im} f = V_2$ (surjectivité), donc $f$ est un isomorphisme.
2. On suppose $\rho_1 = \rho_2$ . Comme $V_1$ est un $\mathbb{C}$ -espace vectoriel de dimension finie, $f$ admet au moins une valeur propre $\lambda \in \mathbb{C}$ . Poser $g = f - \lambda \operatorname{Id}_{V_1}$ . L'application $g$ est linéaire et vérifie aussi la relation de commutation : $\rho_1(s) \circ (f - \lambda \operatorname{Id}) = \rho_1(s) \circ f - \lambda \rho_1(s) = f \circ \rho_1(s) - \lambda \rho_1(s) = (f - \lambda \operatorname{Id}) \circ \rho_1(s)$ D'après la question précédente, $g$ est soit nulle, soit un isomorphisme. Or, $\lambda$ étant valeur propre, $\ker(g) \neq \{0\}$ . Donc $g$ n'est pas un isomorphisme. $\boxed{g = 0 \implies f = \lambda \operatorname{Id}_{V_1}}$
1. Vérifions si $h_0$ vérifie la relation de commutation. Soit $t \in G$ : \begin{align*} \rho_2(t) \circ h_0 &= \frac{1}{|G|} \sum_{s \in G} \rho_2(t) \rho_2(s)^{-1} h \rho_1(s)
  &= \frac{1}{|G|} \sum_{s \in G} \rho_2(t s^{-1}) h \rho_1(s) \end{align*} Posons $u = s t^{-1}$ , d'où $s = ut$ . Quand $s$ parcourt $G$ , $u$ parcourt $G$ . Remarquons que $t s^{-1} = (s t^{-1})^{-1} = u^{-1}$ . \begin{align*} \rho_2(t) \circ h_0 &= \frac{1}{|G|} \sum_{u \in G} \rho_2(u^{-1}) h \rho_1(ut)
  &= \left( \frac{1}{|G|} \sum_{u \in G} \rho_2(u^{-1}) h \rho_1(u) \right) \circ \rho_1(t)
  &= h_0 \circ \rho_1(t) \end{align*} $h_0$ vérifie la condition du lemme de Schur. Comme $\rho_1$ et $\rho_2$ ne sont pas isomorphes, $h_0$ ne peut pas être un isomorphisme. D'après 2.(a), on a nécessairement : $\boxed{h_0 = 0}$
2. Si $\rho_1 = \rho_2$ , la question 2.(b) assure que $h_0$ est une homothétie : $h_0 = \lambda \operatorname{Id}$ . Calculons la trace de $h_0$ : \begin{align*} \operatorname{Tr}(h_0) &= \frac{1}{|G|} \sum_{s \in G} \operatorname{Tr}(\rho_1(s)^{-1} h \rho_1(s))
  &= \frac{1}{|G|} \sum_{s \in G} \operatorname{Tr}(h) \text{par cyclicité de la trace}
  &= \operatorname{Tr}(h) \end{align*} D'autre part, $\operatorname{Tr}(\lambda \operatorname{Id}) = \lambda \operatorname{dim}(V_1)$ . On en déduit $\lambda = \frac{\operatorname{Tr}(h)}{\operatorname{dim} V_1}$ . $\boxed{h_0 = \frac{\operatorname{Tr}(h)}{\operatorname{dim} V_1} \operatorname{Id}_{V_1}}$

Attention à ne pas oublier que l'existence d'une valeur propre (utilisée en 2.b) nécessite de travailler sur un corps algébriquement clos comme $\mathbb{C}$ . Sur $\mathbb{R}$ , le résultat est faux (penser à une rotation dans le plan).