Endomorphismes nilpotents à sous-espaces stables supplémentables

Soit $E$ un espace vectoriel de dimension finie sur un corps $\mathbb{K}$ .

On considère un endomorphisme nilpotent $u \in \mathcal{L}(E)$ .

Déterminer tous les endomorphismes $u$ tels que tout sous-espace vectoriel de $E$ stable par $u$ possède un supplémentaire dans $E$ également stable par $u$ .

1.

Commencer par tester l'endomorphisme nul.

2.

Raisonner par l'absurde en supposant $u \neq 0$ .

3.

Utiliser l'indice de nilpotence $p$ de $u$ , c'est-à-dire le plus petit entier $p \geq 1$ tel que $u^p = 0$ .

4.

Si $p \geq 2$ , considérer un vecteur $x$ tel que $u^{p-1}(x) \neq 0$ et étudier le sous-espace stable engendré par ce vecteur (ou une partie de celui-ci).

Idées clés

•

Définition de la stabilité : $u(F) \subset F$ .

•

Propriétés de l'indice de nilpotence $p$ .

•

Exploitation d'une décomposition en somme directe $E = F \oplus G$ par l'image d'un vecteur bien choisi.

Résolution.

Considérons d'abord le cas où $u$ est l'endomorphisme nul.

Si $u = 0$ , alors tout sous-espace vectoriel $F$ de $E$ est stable par $u$ puisque $u(F) = \{0\} \subset F$ .

Dans un espace de dimension finie, tout sous-espace $F$ admet un supplémentaire $G$ . Ce supplémentaire $G$ est alors lui aussi stable par $u=0$ .

Par conséquent, $u=0$ est une solution du problème.

\boxed{u = 0 \text{ est solution.}}

Supposons maintenant que $u$ est un endomorphisme nilpotent non nul. Soit $p$ son indice de nilpotence.

Comme $u \neq 0$ , on a $p \geq 2$ .

Par définition de l'indice de nilpotence, il existe un vecteur $x \in E$ tel que :

u^{p-1}(x) \neq 0   \text{et}   u^p(x) = 0

Posons $F$ la droite vectorielle engendrée par le vecteur $u^{p-1}(x)$ :

F = \text{Vect}\left( u^{p-1}(x) \right)

Le sous-espace $F$ est stable par $u$ car :

u\left( u^{p-1}(x) \right) = u^p(x) = 0 \in F

Par hypothèse, il existe un sous-espace $G$ de $E$ , stable par $u$ , tel que :

E = F \oplus G

Décomposons alors le vecteur $x$ selon cette somme directe. Il existe un scalaire $\lambda \in \mathbb{K}$ et un vecteur $g \in G$ tels que :

x = \lambda u^{p-1}(x) + g

Appliquons l'endomorphisme $u^{p-1}$ à cette égalité. Par linéarité, nous obtenons :

u^{p-1}(x) = \lambda u^{2p-2}(x) + u^{p-1}(g)

Or, comme $p \geq 2$ , on a l'inégalité $2p - 2 = p + (p-2) \geq p$ .

Puisque $u^p = 0$ , toutes les puissances de $u$ supérieures ou égales à $p$ sont nulles. Ainsi :

u^{2p-2}(x) = 0

L'égalité se simplifie donc en :

u^{p-1}(x) = u^{p-1}(g)

Comme $G$ est stable par $u$ , il est également stable par toutes les puissances de $u$ . Ainsi, $g \in G$ implique $u^{p-1}(g) \in G$ .

On en déduit que :

u^{p-1}(x) \in G

Or, par définition, $u^{p-1}(x)$ appartient aussi à $F$ . Donc :

u^{p-1}(x) \in F \cap G

Puisque $F$ et $G$ sont en somme directe, leur intersection est réduite au vecteur nul :

u^{p-1}(x) = 0

Ceci contredit le choix de $x$ tel que $u^{p-1}(x) \neq 0$ .

L'hypothèse $u \neq 0$ est donc absurde.

\boxed{\text{L'unique endomorphisme répondant à la question est l'endomorphisme nul.}}

L'erreur classique consiste à oublier de traiter le cas $p=1$ séparément ou à ne pas voir que $u^{2p-2}$ s'annule dès que $p \geq 2$ . Il est crucial de bien utiliser le fait que $x$ n'est pas forcément dans $F$ ou $G$ au départ, mais que sa composante sur $F$ disparaît sous l'effet de $u^{p-1}$ .