Matrices de $SL_n(\mathbb{C})$ à droites stables finies

Analyse préliminaire.

Soit $M \in \mathcal{M}_n(\mathbb{C})$. Puisque le corps de base est $\mathbb{C}$, le polynôme caractéristique $\chi_M$ est scindé. $M$ admet donc au moins une valeur propre.

Une droite vectorielle $L$ est stable par $M$ si et seulement si elle est engendrée par un vecteur propre.

Si un sous-espace propre $E_\lambda(M)$ est de dimension $d \geq 2$, alors toute droite incluse dans $E_\lambda(M)$ est stable par $M$. Comme $\mathbb{C}$ est un corps infini, il existe une infinité de telles droites.

Par conséquent, $M$ admet un nombre fini de droites stables si et seulement si pour chaque valeur propre $\lambda \in \text{Sp}(M)$, on a :

Cas $n=2$.

Soit $M \in SL_2(\mathbb{C})$. Notons $\lambda_1, \lambda_2$ ses valeurs propres (éventuellement confondues). On a $\lambda_1 \lambda_2 = \det(M) = 1$.

1. Premier sous-cas : deux valeurs propres distinctes. Si $\lambda_1 \neq \lambda_2$, alors chaque sous-espace propre est de dimension 1 par majoration par la multiplicité dans le polynôme caractéristique. Dans ce cas, $M$ possède exactement deux droites stables. Ce sont les matrices diagonalisables de $SL_2(\mathbb{C})$ dont les valeurs propres sont distinctes et inverses l'une de l'autre.

2. Deuxième sous-cas : une valeur propre double. Si $\lambda_1 = \lambda_2 = \lambda$, alors $\lambda^2 = 1$, d'où $\lambda = 1$ ou $\lambda = -1$. Si $\dim(E_\lambda(M)) = 2$, alors $M = \lambda I_2$. $M$ est soit $I_2$, soit $-I_2$. Dans ces deux cas, toutes les droites de $\mathbb{C}^2$ sont stables : il y en a une infinité. Si $\dim(E_\lambda(M)) = 1$, alors $M$ n'est pas diagonalisable. Son polynôme minimal est $(X-\lambda)^2$. Il n'y a qu'une seule droite stable.

Conclusion pour $n=2$ : Les matrices de $SL_2(\mathbb{C})$ ayant un nombre fini de droites stables sont les matrices $M$ telles que pour toute valeur propre $\lambda$, $\dim(\ker(M-\lambda I_2)) = 1$. Cela correspond aux matrices qui ne sont pas égales à $I_2$ ou $-I_2$.

Cas $n=3$.

Soit $M \in SL_3(\mathbb{C})$. Les valeurs propres $\lambda_1, \lambda_2, \lambda_3$ vérifient $\lambda_1 \lambda_2 \lambda_3 = 1$.

1. Sous-cas : trois valeurs propres distinctes. Chaque sous-espace propre est de dimension 1. Il y a exactement 3 droites stables.
2. Sous-cas : deux valeurs propres distinctes. Supposons $\lambda_1 = \lambda_2 = \lambda$ et $\lambda_3 = \mu$ avec $\lambda \neq \mu$. On doit avoir $\dim(E_\mu(M)) = 1$ (automatique car $\mu$ est simple). La condition imposée est donc $\dim(E_\lambda(M)) = 1$. Cela signifie que $M$ n'est pas diagonalisable (car la multiplicité de $\lambda$ est 2).
3. Sous-cas : une valeur propre triple. On a $\lambda_1 = \lambda_2 = \lambda_3 = \lambda$. Comme $\lambda^3 = 1$, $\lambda \in \{1, j, j^2\}$. La condition imposée est $\dim(E_\lambda(M)) = 1$. Ceci impose que le polynôme minimal de $M$ soit $(X-\lambda)^3$.

Conclusion générale :

Pour $n=2$ comme pour $n=3$ (et plus généralement pour tout $n$), les matrices $M \in SL_n(\mathbb{C})$ possédant un nombre fini de droites stables sont celles dont tous les sous-espaces propres sont de dimension 1.

En termes de réduction, cela signifie que pour chaque valeur propre $\lambda$ de multiplicité $m_\lambda$ dans $\chi_M$, le bloc de réduction associé (dans une forme triangulaire de type Dunford ou par l'étude des noyaux itérés) doit n'avoir qu'un seul vecteur propre à un facteur scalaire près.