Représentations de SL2 sur un corps fini

Résolution.

1. Commençons par calculer les puissances de $A$ dans $\mathcal{M}_2(\mathbb{F}_p)$. Une récurrence immédiate montre que pour tout $k \in \mathbb{N}$ :
   $$A^k = \begin{pmatrix} 1 & k$$
   0 & 1 \end{pmatrix}
   Comme la caractéristique du corps est $p$, on a $p \cdot 1 = 0$, donc $A^p = I_2$. Puisque $\rho$ est un morphisme de groupes, on en déduit :
   $$\rho(A)^p = \rho(A^p) = \rho(I_2) = I_n$$
   Ainsi, le polynôme $P(X) = X^p - 1$ est un polynôme annulateur de $\rho(A)$. Dans $\mathbb{C}[X]$, ce polynôme se factorise sous la forme :
   $$X^p - 1 = \prod_{k=0}^{p-1} \left( X - e^{\frac{2i k \pi}{p}} \right)$$
   Ce polynôme est scindé sur $\mathbb{C}$ et possède $p$ racines distinctes (racines simples). D'après le critère de diagonalisation par les polynômes annulateurs, $\rho(A)$ est diagonalisable. De plus, ses valeurs propres sont nécessairement des racines de $P$, donc :
   $$\boxed{\mathrm{Sp}(\rho(A)) \subset \mathbb{U}_p}$$

2. 1. Soit $x \in \mathbb{F}_p^*$. On calcule d'abord $D(x)^{-1} = \begin{pmatrix} x^{-1} & 0$
      0 & x \end{pmatrix}. Effectuons le produit matriciel :
      $$D(x) A = \begin{pmatrix} x & 0$$
      0 & x^{-1} \end{pmatrix} \begin{pmatrix} 1 & 1
      0 & 1 \end{pmatrix} = \begin{pmatrix} x & x
      0 & x^{-1} \end{pmatrix}
      Puis multiplions par $D(x)^{-1}$ à droite :
      $$D(x) A D(x)^{-1} = \begin{pmatrix} x & x$$
      0 & x^{-1} \end{pmatrix} \begin{pmatrix} x^{-1} & 0
      0 & x \end{pmatrix} = \begin{pmatrix} 1 & x^2
      0 & 1 \end{pmatrix}
      On reconnaît la forme des puissances de $A$ calculée précédemment :
      $$\boxed{D(x) A D(x)^{-1} = A^{x^2}}$$

   2. Appliquons le morphisme $\rho$ à l'égalité précédente. Par propriété des morphismes :
      $$\rho(D(x)) \rho(A) \rho(D(x))^{-1} = \rho(A^{x^2}) = \rho(A)^{x^2}$$
      La matrice $\rho(A)$ est donc semblable à la matrice $\rho(A)^{x^2}$ via la matrice de passage $P = \rho(D(x))$. En conséquence, ces deux matrices ont le même spectre (compté avec multiplicités).
      $$\boxed{\mathrm{Sp}(\rho(A)) = \mathrm{Sp}(\rho(A)^{x^2})}$$

   3. Puisque $\rho$ est injectif et que $A \neq I_2$, on a $\rho(A) \neq I_n$. La matrice $\rho(A)$ possède donc au moins une valeur propre $\lambda \neq 1$. D'après la question 1, il existe $k \in \{1, \dots, p-1\}$ tel que $\lambda = \omega^k$ où $\omega = e^{2i\pi/p}$. Si $\lambda$ est une valeur propre de $\rho(A)$, alors $\lambda^{x^2}$ est une valeur propre de $\rho(A)^{x^2}$. D'après la question (b), $\lambda^{x^2}$ est donc aussi une valeur propre de $\rho(A)$. L'ensemble des valeurs propres de $\rho(A)$ contient donc l'ensemble :
      $$\mathcal{S} = \{ \lambda^{x^2} \mid x \in \mathbb{F}_p^* \} = \{ \omega^{k x^2} \mid x \in \mathbb{F}_p^* \}$$
      Comme $k$ est inversible modulo $p$ ($k \neq 0$), l'application $x \mapsto kx^2$ a la même image que l'application $x \mapsto x^2$ dans $\mathbb{F}_p^*$. L'ensemble des carrés de $\mathbb{F}_p^*$, noté $(\mathbb{F}_p^*)^2$, est le noyau du morphisme de groupe (symbole de Legendre) $z \mapsto z^{(p-1)/2}$. Son cardinal est :
      $$\text{Card}((\mathbb{F}_p^*)^2) = \frac{p-1}{2}$$
      Puisque les $\omega^m$ sont distincts pour $m \in \{0, \dots, p-1\}$, on a au moins $\frac{p-1}{2}$ valeurs propres distinctes pour $\rho(A)$. Le nombre de valeurs propres (distinctes) d'une matrice de taille $n$ est inférieur ou égal à $n$. On conclut :
      $$\boxed{n \geq \frac{p-1}{2}}$$