Caractérisation de la nilpotence par les sous-espaces stables

Soit $E$ un espace vectoriel de dimension finie sur le corps $\mathbb{C}$ . Soit $u \in \mathcal{L}(E)$ un endomorphisme de $E$ .

Montrer que $u$ est un endomorphisme nilpotent si, et seulement si, pour tout sous-espace vectoriel $F$ de $E$ stable par $u$ tel que $F \neq \{0\}$ , l'endomorphisme induit $u_{|F} \in \mathcal{L}(F)$ n'est pas un automorphisme de $F$ .

1.

Pour le sens direct, utiliser le fait que si $u$ est nilpotent, alors toute restriction de $u$ à un sous-espace stable l'est également. Rappeler ensuite le lien entre nilpotence et inversibilité.

2.

Pour le sens réciproque, exploiter l'existence de vecteurs propres (puisque le corps de base est $\mathbb{C}$ ) pour construire des sous-espaces stables de dimension 1.

3.

Conclure sur le spectre de $u$ et utiliser le théorème de Cayley-Hamilton ou la trigonalisabilité.

Idées clés

•

Lien entre les valeurs propres d'un endomorphisme et celles de sa restriction à un sous-espace stable.

•

Un endomorphisme nilpotent sur un espace de dimension non nulle n'est jamais inversible.

•

Sur $\mathbb{C}$ , tout endomorphisme admet au moins une valeur propre.

Sens direct : $\Longrightarrow$

Supposons que $u$ est nilpotent. Il existe donc un entier $p \in \mathbb{N}^*$ tel que $u^p = 0$ .

Soit $F$ un sous-espace vectoriel de $E$ non nul et stable par $u$ . Notons $v = u_{|F}$ l'endomorphisme induit par $u$ sur $F$ .

Pour tout $x \in F$ , on a $v^p(x) = u^p(x) = 0$ . Ainsi :

v^p = 0_F

L'endomorphisme induit $v$ est donc lui aussi nilpotent.

Si $v$ était inversible (un automorphisme), alors en composant par $(v^{-1})^p$ à gauche, on obtiendrait :

(v^{-1})^p \circ v^p = Id_F \implies 0 = Id_F

Comme $F \neq \{0\}$ , c'est absurde.

On en conclut que $v = u_{|F}$ n'est pas inversible.

\boxed{\text{Si } u \text{ est nilpotent, toute restriction à un stable non nul n'est pas inversible.}}

Sens réciproque : $\Longleftarrow$

Supposons que pour tout sous-espace $F$ stable par $u$ non nul, $u_{|F}$ n'est pas inversible.

Raisonnons sur le spectre de $u$ . Puisque $E$ est un espace vectoriel sur $\mathbb{C}$ , le polynôme caractéristique $\chi_u$ est scindé. En particulier, $u$ admet au moins une valeur propre.

Soit $\lambda \in \mathbb{C}$ une valeur propre de $u$ . Il existe un vecteur propre $x \in E \setminus \{0\}$ associé à $\lambda$ .

Considérons la droite vectorielle $F = \text{Vect}(x)$ . Par définition d'un vecteur propre, $u(x) = \lambda x$ , donc $F$ est stable par $u$ .

Par hypothèse, l'induit $u_{|F}$ n'est pas inversible. Or, sur cette droite $F$ , l'endomorphisme $u_{|F}$ est simplement la homothétie de rapport $\lambda$ .

Un tel endomorphisme est non inversible si et seulement si son rapport est nul :

\lambda = 0

Ainsi, la seule valeur propre possible de $u$ dans $\mathbb{C}$ est $0$ .

\boxed{\text{Sp}(u) = \{0\}}

Puisque $\mathbb{C}$ est algébriquement clos, le polynôme caractéristique de $u$ est de la forme :

\chi_u(X) = X^n   \text{où } n = \dim E

D'après le théorème de Cayley-Hamilton, nous savons que $\chi_u(u) = 0$ , d'où :

\boxed{u^n = 0}

L'endomorphisme $u$ est donc bien nilpotent.

Ne pas oublier de préciser que le caractère scindé du polynôme caractéristique (garanti ici par le corps $\mathbb{C}$ ) est essentiel pour affirmer que l'absence de valeurs propres non nulles implique la nilpotence.