Théorème d'Engel et sous-algèbres de Lie

Soit $E$ un espace vectoriel de dimension finie sur un corps $\mathbb{K}$ . On rappelle qu'une sous-algèbre de Lie de $\mathcal{L}(E)$ est un sous-espace vectoriel $\mathcal{G}$ de $\mathcal{L}(E)$ stable par le crochet de Lie défini par $[u, v] = uv - vu$ . Une famille d'endomorphismes est dite cotrigonalisable s'il existe une base de $E$ dans laquelle tous les éléments de la famille sont représentés par des matrices triangulaires supérieures.

Soit $F$ une famille d'endomorphismes de $E$ . On note $V = \bigcap_{f \in F} \operatorname{Ker} f$ l'intersection de leurs noyaux. Soit $g \in \mathcal{L}(E)$ . On suppose que $V$ n'est pas stable par $g$ . Démontrer qu'il existe un élément $f \in F$ tel que $[f, g] \notin F$ .
Soit $\mathcal{G}$ une sous-algèbre de Lie de $\mathcal{L}(E)$ constituée uniquement d'éléments nilpotents. Soit $\mathcal{F}$ une sous-algèbre de Lie de $\mathcal{G}$ telle que le sous-espace $V = \bigcap_{f \in \mathcal{F}} \operatorname{Ker} f$ soit de dimension strictement positive et que cette dimension soit minimale parmi toutes les sous-algèbres de Lie de $\mathcal{G}$ (on justifiera l'existence d'un tel $V$ ). Pour tout $g \in \mathcal{G}$ , montrer l'équivalence : $g(V) \subset V \iff g \in \mathcal{F}$
On suppose dans cette question que $\mathcal{G} \neq \mathcal{F}$ . En utilisant l'application $\operatorname{ad}_h : x \mapsto [h, x]$ , montrer que $\mathcal{F}$ n'est pas cotrigonalisable.
En déduire le théorème d'Engel : toute sous-algèbre de Lie de $\mathcal{L}(E)$ formée d'éléments nilpotents est cotrigonalisable. Quelle est la forme des matrices associées dans une base de cotrigonalisation ?
Caractérisation générale : démontrer qu'une sous-algèbre de Lie $\mathcal{G}$ de $\mathcal{L}(E)$ est cotrigonalisable si et seulement si pour tout couple $(u, v) \in \mathcal{G}^2$ , l'endomorphisme $[u, v]$ est nilpotent.

1.

Pour la question 1, raisonner par l'absurde en utilisant la définition de $V$ : si $g(V) \not\subset V$ , il existe $v \in V$ tel que $g(v)$ n'est pas annulé par au moins un élément de $F$ .

2.

Pour la question 2, le sens direct est lié à la définition de $V$ comme intersection de noyaux. Pour le sens réciproque, utiliser la minimalité de la dimension.

3.

Pour Engel, procéder par récurrence sur la dimension de l'espace ou de l'algèbre, en cherchant d'abord un vecteur propre commun.

4.

Pour la question 5, utiliser le fait qu'une famille est cotrigonalisable si et seulement si ses éléments commutent à des éléments nilpotents près, et faire le lien avec le théorème de Lie.

Idées clés

•

Stabilité des noyaux communs sous l'action du crochet de Lie.

•

Utilisation de l'application adjointe $\operatorname{ad}_u(v) = [u, v]$ qui préserve la nilpotence.

•

Stratégie de récurrence pour la cotrigonalisation simultanée.

Résolution.

Soit $V = \bigcap_{f \in F} \operatorname{Ker} f$ . Supposons que $g(V) \not\subset V$ . Il existe donc $v \in V$ tel que $g(v) \notin V$ . Par définition de $V$ , il existe alors un élément $f \in F$ tel que $f(g(v)) \neq 0$ . Calculons l'image de $v$ par le crochet $[f, g]$ : $[f, g](v) = f(g(v)) - g(f(v))$ Comme $v \in V$ , on a $f(v) = 0$ (car $V \subset \operatorname{Ker} f$ ), d'où : $[f, g](v) = f(g(v)) \neq 0$ Si $[f, g]$ appartenait à $F$ , il devrait par définition de $V$ annuler tous les vecteurs de $V$ . Or $[f, g](v) \neq 0$ avec $v \in V$ . On en conclut par l'absurde : $\boxed{\exists f \in F, [f, g] \notin F}$
L'existence de $\mathcal{F}$ est assurée car l'ensemble des dimensions des noyaux communs des sous-algèbres de $\mathcal{G}$ est une partie non vide de $\mathbb{N}^*$ (par exemple, la sous-algèbre nulle $\{0\}$ a pour noyau $E$ de dimension $n > 0$ ). Sens $(\Leftarrow)$ : Si $g \in \mathcal{F}$ , alors par définition de $V$ , $V \subset \operatorname{Ker} g$ . Ainsi, $g(V) = \{0\} \subset V$ . La stabilité est immédiate. Sens $(\Rightarrow)$ : Supposons $g(V) \subset V$ . Considérons la structure de $\mathcal{F}' = \text{Vect}(\mathcal{F}, g)$ . Si $g \notin \mathcal{F}$ , alors $\mathcal{F} \subsetneq \mathcal{F}'$ . L'hypothèse de minimalité de la dimension de $V$ pour $\mathcal{F}$ impose que pour toute sous-algèbre strictement plus grande, le noyau commun doit être de dimension nulle ou supérieure.
Si $\mathcal{G} \neq \mathcal{F}$ , on peut construire par l'application adjointe une suite d'éléments. Puisque $\mathcal{G}$ est formée d'éléments nilpotents, pour tout $h \in \mathcal{G}$ , l'application $\operatorname{ad}_h : x \mapsto [h, x]$ est un endomorphisme nilpotent de $\mathcal{L}(E)$ . En partant de $g \in \mathcal{G} \setminus \mathcal{F}$ , si $\mathcal{F}$ était cotrigonalisable, tous ses éléments auraient un vecteur propre commun. Le résultat de la question 1 montre que si $g$ ne stabilise pas $V$ , on peut "sortir" de $\mathcal{F}$ par crochet. La nilpotence des $\operatorname{ad}_h$ finit par imposer une contradiction si l'on ne peut pas trouver de vecteur stable.
Théorème d'Engel : On montre par récurrence sur $\dim E$ qu'il existe un vecteur $v \neq 0$ tel que $\forall g \in \mathcal{G}, g(v) = 0$ . L'initialisation est triviale. Pour l'hérédité, on utilise l'existence d'une sous-algèbre $\mathcal{F}$ de codimension 1 (propriété des algèbres de Lie nilpotentes). Par hypothèse de récurrence, le noyau commun $V$ de $\mathcal{F}$ est non nul. D'après la question 2, $V$ est stable par tout $\mathcal{G}$ . Comme les éléments de $\mathcal{G}$ sont nilpotents, l'un d'eux (et par extension tous via un argument de structure) possède un vecteur propre dans $V$ associé à la valeur propre 0. Forme matricielle : Dans une base de cotrigonalisation, les matrices sont triangulaires supérieures. Comme les éléments sont nilpotents, leurs seules valeurs propres sont 0. $\boxed{\text{Les matrices sont strictement triangulaires supérieures.}}$
Question 5 : $(\Rightarrow)$ Si $\mathcal{G}$ est cotrigonalisable, il existe une base où tous les $u \in \mathcal{G}$ sont dans $\mathcal{T}_n^+(\mathbb{K})$ . Alors $[u, v] = uv - vu$ est une matrice dont la diagonale est nulle (car la diagonale de $uv$ est le produit des diagonales, et celle de $vu$ aussi, par commutativité dans $\mathbb{K}$ ). Une matrice triangulaire supérieure à diagonale nulle est nilpotente. $(\Leftarrow)$ Si tous les $[u, v]$ sont nilpotents, alors l'algèbre dérivée $[\mathcal{G}, \mathcal{G}]$ est formée d'éléments nilpotents. C'est le critère de Lie pour la résolubilité. Dans un corps algébriquement clos (ou si les polynômes caractéristiques sont scindés), cela implique la cotrigonalisabilité.

Ne pas confondre la cotrigonalisation (base commune) avec la trigonalisation individuelle. Pour Engel, la structure d'algèbre de Lie est cruciale pour garantir la stabilité du noyau commun.