Classification des sous-groupes finis de SL2(Z)

Résolution.

1. Montrons que $G$ est cyclique.

   Soit $q_0$ la forme quadratique euclidienne usuelle sur $\mathbb{R}^2$ définie par $q_0(x) = \|x\|^2$. On définit une nouvelle forme $Q$ sur $\mathbb{R}^2$ en effectuant la moyenne de $q_0$ sur le groupe fini $G$ :

   $$Q(x) = \sum_{M \in G} \|Mx\|^2$$

   Par construction, $Q$ est une forme quadratique. Elle est définie positive car c'est une somme de termes positifs dont l'un est $\|Ix\|^2 = \|x\|^2$. De plus, pour tout $A \in G$, on a :

   $$Q(Ax) = \sum_{M \in G} \|MAx\|^2$$

   Comme l'application $M \mapsto MA$ est une permutation du groupe $G$, on en déduit l'invariance de $Q$ par les éléments de $G$ :

   $$\forall A \in G,   Q(Ax) = Q(x)$$

   D'après le théorème de réduction simultanée (ou simplement par l'existence d'une base $Q$-orthonormée), il existe une matrice $P \in \mathrm{GL}_2(\mathbb{R})$ telle que $Q(x) = \|Px\|^2$. L'égalité $Q(Ax) = Q(x)$ devient alors $\|PAx\|^2 = \|Px\|^2$.

   En posant $y = Px$, on obtient $\|PAP^{-1}y\|^2 = \|y\|^2$ pour tout $y \in \mathbb{R}^2$. Cela signifie que la matrice $M' = PAP^{-1}$ est une matrice orthogonale. Puisque $\det(A) = 1$ (car $G \subset \mathrm{SL}_2(\mathbb{Z})$), on a $\det(M') = 1$, donc $M' \in \mathrm{SO}_2(\mathbb{R})$.

   Ainsi, $P G P^{-1}$ est un sous-groupe fini du groupe des rotations $\mathrm{SO}_2(\mathbb{R})$. Or, $\mathrm{SO}_2(\mathbb{R})$ est isomorphe au groupe $(\mathbb{R}/2\pi\mathbb{Z}, +)$ ou au groupe des complexes de module 1, $\mathbb{U}$. On sait que tout sous-groupe fini de $\mathbb{U}$ est le groupe des racines $n$-ièmes de l'unité, qui est cyclique.

   $$\boxed{G \text{ est conjugué à un groupe de rotations fini, il est donc cyclique.}}$$

2. Déterminons les ordres possibles.

   Soit $n$ l'ordre de $G$. Puisque $G$ est cyclique, il possède un générateur $A$ qui est conjugué dans $\mathrm{GL}_2(\mathbb{R})$ à une rotation $R_\theta$ d'angle $\theta = 2\pi/n$. La trace est invariante par conjugaison, donc :

   $$\mathrm{Tr}(A) = \mathrm{Tr}(R_\theta) = 2\cos\left(\frac{2\pi}{n}\right)$$

   Comme $A \in \mathrm{SL}_2(\mathbb{Z})$, sa trace doit être un nombre entier. On doit donc avoir $2\cos(2\pi/n) \in \mathbb{Z}$. Les valeurs possibles pour l'entier $k = 2\cos(2\pi/n)$ sont limitées par l'intervalle $[-2, 2]$.

   Analysons chaque cas :

   • Si $2\cos(2\pi/n) = 2$, alors $\cos(2\pi/n) = 1$, d'où $n=1$.
   • Si $2\cos(2\pi/n) = 1$, alors $\cos(2\pi/n) = 1/2$, d'où $2\pi/n = \pi/3$ et $n=6$.
   • Si $2\cos(2\pi/n) = 0$, alors $\cos(2\pi/n) = 0$, d'où $2\pi/n = \pi/2$ et $n=4$.
   • Si $2\cos(2\pi/n) = -1$, alors $\cos(2\pi/n) = -1/2$, d'où $2\pi/n = 2\pi/3$ et $n=3$.
   • Si $2\cos(2\pi/n) = -2$, alors $\cos(2\pi/n) = -1$, d'où $2\pi/n = \pi$ et $n=2$.

   Il reste à vérifier que ces ordres sont effectivement réalisables par des matrices de $\mathrm{SL}_2(\mathbb{Z})$ :

   • $n=1$ : $G = \{I\}$ convient.
   • $n=2$ : $G = \{I, -I\}$ convient.
   • $n=4$ : $A = \begin{pmatrix} 0 & -1$
     1 & 0 \end{pmatrix} est d'ordre 4.
   • $n=3$ : $A = \begin{pmatrix} 0 & -1$
     1 & -1 \end{pmatrix} est d'ordre 3 (car $\chi_A = X^2+X+1$).
   • $n=6$ : $A = \begin{pmatrix} 1 & -1$
     1 & 0 \end{pmatrix} est d'ordre 6 (car $\chi_A = X^2-X+1$).

   Les ordres possibles pour $G$ sont donc :

   $$\boxed{\text{Ordres possibles : } \{1, 2, 3, 4, 6\}}$$