Caractérisation des sous-espaces stables

Soit $E$ un espace vectoriel de dimension finie $n \geq 1$ sur un corps $\mathbb{K}$ ( $\mathbb{R}$ ou $\mathbb{C}$ ).

Étude du cas nilpotent Soit $u \in \mathcal{L}(E)$ $u \in L (E)$ un endomorphisme nilpotent d'indice de nilpotence $n$ $n$ (c'est-à-dire $u^n = 0$ $u^{n} = 0$ et $u^{n-1} \neq 0$ $u^{n - 1} \neq = 0$ ).
1. Justifier que pour tout $k \in \llbracket 0, n \rrbracket$ , on a $\dim(\ker(u^k)) = k$ .
2. Déterminer l'ensemble des sous-espaces de $E$ stables par $u$ .
Généralisation aux polynômes scindés Soit $f \in \mathcal{L}(E)$ . On suppose que le polynôme minimal de $f$ est scindé sur $\mathbb{K}$ , noté $\pi_f = \prod_{i=1}^m (X - \lambda_i)^{\alpha_i}$ , où les $\lambda_i$ sont les valeurs propres distinctes de $f$ . Montrer que si $F$ est un sous-espace vectoriel de $E$ stable par $f$ , alors : $\boxed{F = \bigoplus_{i=1}^m \left( F \cap \ker(f - \lambda_i \text{Id}_E)^{\alpha_i} \right)}$
Application pratique Soient $a, b \in \mathbb{K}$ . On considère l'endomorphisme $g$ de $\mathbb{K}^4$ représenté dans la base canonique par la matrice : $M_{a,b} = \begin{pmatrix} 1 & a & 0 & 0 0 & 1 & 0 & 0 0 & 0 & 2 & b 0 & 0 & 0 & 2 \end{pmatrix}$ Déterminer, selon les valeurs de $a$ et $b$ , la liste des sous-espaces de $\mathbb{K}^4$ stables par $g$ .

1.

Pour la question 1(a), utiliser la croissance de la suite des noyaux itérés et l'argument de dimension. Pour la 1(b), remarquer que la restriction de $u$ à un sous-espace stable est encore nilpotente.

2.

Pour la question 2, appliquer le lemme des noyaux à l'endomorphisme induit par $f$ sur $F$ . Noter que le polynôme minimal de la restriction divise celui de l'endomorphisme global.

3.

Pour la question 3, décomposer $\mathbb{K}^4$ en somme directe de sous-espaces caractéristiques et utiliser le résultat de la question 2 pour ramener l'étude à des blocs de plus petite taille.

Idées clés

•

Suite des noyaux itérés pour les endomorphismes nilpotents.

•

Lemme des noyaux appliqué à une restriction stable.

•

Décomposition d'un sous-espace stable selon les sous-espaces caractéristiques.

Résolution.

Cas nilpotent d'indice $n$
1. Considérons la suite des noyaux itérés $K_k = \ker(u^k)$ . On sait que cette suite est croissante au sens de l'inclusion. Comme $u^{n-1} \neq 0$ , il existe un vecteur $x \in E$ tel que $u^{n-1}(x) \neq 0$ . La famille $(x, u(x), \dots, u^{n-1}(x))$ est alors une base de $E$ (famille cyclique). On observe que pour tout $k \in \llbracket 1, n \rrbracket$ , l'inclusion $K_{k-1} \subset K_k$ est stricte. En effet, si $K_{k-1} = K_k$ , alors par récurrence $K_{k-1} = K_n = E$ , ce qui contredirait l'indice de nilpotence $n$ si $k \leq n$ . Ainsi, $0 = \dim(K_0) < \dim(K_1) < \dots < \dim(K_n) = n$ . Comme chaque saut de dimension est au moins égal à 1, la seule possibilité est : $\boxed{\forall k \in \llbracket 0, n \rrbracket, \dim(\ker(u^k)) = k}$
2. Soit $F$ un sous-espace stable par $u$ de dimension $p$ . L'endomorphisme induit $u_{|F}$ est nilpotent sur $F$ , donc son indice de nilpotence est inférieur ou égal à $\dim F = p$ . Par conséquent, $(u_{|F})^p = 0$ , ce qui signifie que pour tout $x \in F$ , $u^p(x) = 0$ . On en déduit l'inclusion $F \subseteq \ker(u^p)$ . D'après la question précédente, $\dim(\ker(u^p)) = p = \dim F$ . Par égalité des dimensions et inclusion, on conclut : $\boxed{F = \ker(u^p)}$ Les sous-espaces stables sont exactement les $n+1$ noyaux itérés $\{\ker(u^k) \mid k \in \llbracket 0, n \rrbracket\}$ .
Décomposition des sous-espaces stables Soit $F$ un sous-espace stable par $f$ . On note $f_F$ l'endomorphisme de $F$ induit par la restriction de $f$ à $F$ . Le polynôme minimal $\pi_{f_F}$ de cet induit divise le polynôme minimal $\pi_f$ de $f$ . Puisque $\pi_f = \prod_{i=1}^m (X - \lambda_i)^{\alpha_i}$ , le polynôme $\pi_{f_F}$ est également scindé et de la forme $\prod_{i=1}^m (X - \lambda_i)^{\beta_i}$ avec $0 \leq \beta_i \leq \alpha_i$ . D'après le lemme des noyaux appliqué à $f_F$ dans l'espace $F$ , on a : $F = \bigoplus_{i=1}^m \ker(f_F - \lambda_i \text{Id}_F)^{\beta_i}$ Or, par définition de l'endomorphisme induit, on a l'égalité de noyaux : $\ker(f_F - \lambda_i \text{Id}_F)^{\beta_i} = F \cap \ker(f - \lambda_i \text{Id}_E)^{\beta_i}$ Comme $\beta_i \leq \alpha_i$ , on a $\ker(f - \lambda_i \text{Id}_E)^{\beta_i} \subseteq \ker(f - \lambda_i \text{Id}_E)^{\alpha_i}$ . On en déduit l'inclusion $F \cap \ker(f - \lambda_i \text{Id}_E)^{\beta_i} \subseteq F \cap \ker(f - \lambda_i \text{Id}_E)^{\alpha_i}$ . Finalement, par sommation des dimensions, on obtient : $\boxed{F = \bigoplus_{i=1}^m \left( F \cap \ker(f - \lambda_i \text{Id}_E)^{\alpha_i} \right)}$
Application à la matrice $M_{a,b$ Ma,b} Soit $g$ $g$ l'endomorphisme associé à $M_{a,b}$ $M_{a, b}$ . Son polynôme caractéristique est $\chi_g = (X-1)^2(X-2)^2$ $χ_{g} = (X - 1)^{2} (X - 2)^{2}$ . Notons $N_1 = \ker(g - \text{Id})^2$ $N_{1} = ker (g - Id)^{2}$ et $N_2 = \ker(g - 2\text{Id})^2$ $N_{2} = ker (g - 2 Id)^{2}$ les sous-espaces caractéristiques associés aux valeurs propres 1 et 2. D'après la question 2, tout sous-espace stable $F$ $F$ s'écrit $F = F_1 \oplus F_2$ $F = F_{1} \oplus F_{2}$ où $F_1 \subseteq N_1$ $F_{1} \subseteq N_{1}$ et $F_2 \subseteq N_2$ $F_{2} \subseteq N_{2}$ sont des sous-espaces stables par les restrictions respectives de $g$ $g$ . Étude sur $N_1$ : La restriction de $g - \text{Id}$ $g - Id$ à $N_1$ $N_{1}$ est représentée par $A_a - I_2 = \begin{pmatrix} 0 & a 0 & 0 \end{pmatrix}$ $A_{a} - I_{2} = (00 a 0)$ .
- Si $a \neq 0$ , l'indice de nilpotence est 2. Les seuls sous-espaces stables de $N_1$ sont $\{0\}$ , $\text{Vect}(e_1)$ , et $N_1$ .
- Si $a = 0$ , la restriction est l'identité. Tout sous-espace de $N_1$ est stable.
Étude sur $N_2$ : La restriction de $g - 2\text{Id}$ $g - 2 Id$ à $N_2$ $N_{2}$ est représentée par $B_b - 2I_2 = \begin{pmatrix} 0 & b 0 & 0 \end{pmatrix}$ $B_{b} - 2 I_{2} = (00 b 0)$ .
- Si $b \neq 0$ , les seuls sous-espaces stables de $N_2$ sont $\{0\}$ , $\text{Vect}(e_3)$ , et $N_2$ .
- Si $b = 0$ , tout sous-espace de $N_2$ est stable.
Conclusion : Les sous-espaces stables de $g$ $g$ sont de la forme $F_1 \oplus F_2$ $F_{1} \oplus F_{2}$ avec $F_1$ $F_{1}$ stable pour le bloc de la valeur propre 1 et $F_2$ $F_{2}$ stable pour le bloc de la valeur propre 2.
$\boxed{\text{Si } a \neq 0, b \neq 0, \text{ il y a } 3 \times 3 = 9 \text{ sous-espaces stables.}}$

Une erreur fréquente est d'oublier que si une restriction est l'identité (ou une homothétie), il existe une infinité de sous-espaces stables (tous les sous-espaces de ce bloc). C'est le cas ici si $a=0$ ou $b=0$ .