Détermination des sous-espaces stables

Soit $E$ un espace vectoriel de dimension 3 sur $\mathbb{K}$ ( $\mathbb{R}$ ou $\mathbb{C}$ ). On considère les endomorphismes de $E$ dont les matrices dans la base canonique sont données par :

A=\begin{pmatrix} 2 & 1 & 1 1 & 2 & 1 0 & 0 & 3 \end{pmatrix},   B=\begin{pmatrix} 1 & j & j^2 j & j^2 & 1 j^2 & 1 & j \end{pmatrix} \text{ avec } j=e^{2i\pi/3}

C=\begin{pmatrix} 1 & 2 & 3 0 & 4 & 5 0 & 0 & 6 \end{pmatrix},   D=\begin{pmatrix} 2 & 1 & 1 1 & 1 & 1 -1 & -1 & 0 \end{pmatrix}

Déterminer, pour chacun de ces endomorphismes, l'ensemble de ses sous-espaces vectoriels stables.

1.

Un sous-espace $F$ est stable par $u$ si et seulement si $u(F) \subset F$ . Dans ce cas, l'endomorphisme induit $u_{|F}$ possède un polynôme caractéristique qui divise celui de $u$ .

2.

Pour une matrice diagonalisable à valeurs propres distinctes, les sous-espaces stables sont exactement les sommes directes de sous-espaces propres.

3.

Pour les cas non diagonalisables, étudier les restrictions possibles du polynôme minimal ou caractéristique aux sous-espaces stables.

4.

Pour la matrice $B$ , remarquer qu'elle est de rang 1 et de trace nulle.

Idées clés

•

Si $F$ est stable par $u$ , alors $\chi_{u_{|F}}$ divise $\chi_u$ .

•

Si $u$ est diagonalisable, un sous-espace $F$ est stable si et seulement si $F = \bigoplus_{\lambda \in \text{Sp}(u)} (F \cap E_\lambda)$ .

•

Pour une matrice de rang 1, l'image est une droite et le noyau un plan.

Résolution.

Étude de la matrice $A$ : Le polynôme caractéristique de $A$ est : $\chi_A(X) = \det(A-XI) = (3-X) \begin{vmatrix} 2-X & 1 1 & 2-X \end{vmatrix} = (3-X)((2-X)^2-1)$ En développant, on obtient $\chi_A(X) = (3-X)(1-X)(3-X) = -(X-1)(X-3)^2$ . Les valeurs propres sont $1$ (simple) et $3$ (double). Cherchons les espaces propres : $E_1(A) = \text{Ker}(A-I) = \text{Vect}(u_1)$ avec $u_1 = (1, -1, 0)$ . $E_3(A) = \text{Ker}(A-3I) = \text{Vect}(u_3)$ avec $u_3 = (1, 1, 0)$ . $\dim E_3(A) = 1 < 2$ , donc $A$ n'est pas diagonalisable. Soit $F$ un sous-espace stable de dimension $d$ . - Si $d=1$ , $F$ est une droite propre, donc $F = E_1(A)$ ou $F = E_3(A)$ . - Si $d=2$ , le polynôme caractéristique de l'induit $P_F$ divise $(X-1)(X-3)^2$ et est de degré 2. Cas $P_F = (X-1)(X-3)$ : Alors $F = E_1(A) \oplus E_3(A) = \text{Vect}(u_1, u_3)$ . Cas $P_F = (X-3)^2$ : Alors $F \subset \text{Ker}(A-3I)^2$ . Comme $\dim \text{Ker}(A-3I)^2 = 2$ , on a $F = \text{Ker}(A-3I)^2$ . On calcule $(A-3I)^2 = \begin{pmatrix} -1 & 1 & 1 1 & -1 & 1 0 & 0 & 0 \end{pmatrix}^2 = \begin{pmatrix} 2 & -2 & 0 -2 & 2 & 0 0 & 0 & 0 \end{pmatrix}$ . D'où $F = \text{Vect}((1,1,0), (0,0,1))$ . $\boxed{\text{Stables}(A) = \{ \{0\}, E_1, E_3, E_1 \oplus E_3, \text{Ker}(A-3I)^2, \mathbb{R}^3 \}}$
Étude de la matrice $B$ : On remarque que toutes les lignes de $B$ sont proportionnelles à $L_1 = (1, j, j^2)$ . En effet, $L_2 = j L_1$ et $L_3 = j^2 L_1$ . Ainsi, $\text{rg}(B) = 1$ et $\text{Im}(B) = \text{Vect}(v_0)$ avec $v_0 = (1, j, j^2)$ . La trace de $B$ est $\text{Tr}(B) = 1 + j^2 + j = 0$ . Comme $B$ est de rang 1, son polynôme caractéristique est $\chi_B(X) = -X^2(X-\text{Tr}(B)) = -X^3$ . $B$ est donc nilpotente. On vérifie d'ailleurs $B^2 = \text{Tr}(B)B = 0$ . Les sous-espaces stables $F$ : - Dim 1 : $F$ est une droite propre. Comme $\text{Sp}(B)=\{0\}$ , $F \subset \text{Ker}(B)$ . $\text{Ker}(B)$ est le plan d'équation $x + jy + j^2z = 0$ . Toute droite de ce plan est stable. - Dim 2 : Si $B_{|F} = 0$ , alors $F = \text{Ker}(B)$ . Si $B_{|F} \neq 0$ , alors $\text{Im}(B_{|F})$ est une droite contenue dans $F$ . Or $\text{Im}(B_{|F}) \subset \text{Im}(B) = \text{Vect}(v_0)$ . Donc $v_0 \in F$ . $\boxed{\text{Stables}(B) = \{ \{0\}, \mathbb{C}^3, \text{Ker}(B), \text{ les droites de } \text{Ker}(B), \text{ les plans contenant } \text{Vect}(1, j, j^2) \}}$
Étude de la matrice $C$ : $C$ est triangulaire supérieure avec des éléments diagonaux distincts $\{1, 4, 6\}$ . L'endomorphisme est donc diagonalisable et ses 3 valeurs propres sont simples. Soient $e_1, e_4, e_6$ des vecteurs propres associés. Les sous-espaces stables sont les sommes directes de ces espaces propres : $\boxed{\text{Stables}(C) = \{ \{0\}, \text{Vect}(e_1), \text{Vect}(e_4), \text{Vect}(e_6), \text{Vect}(e_1, e_4), \text{Vect}(e_1, e_6), \text{Vect}(e_4, e_6), \mathbb{R}^3 \}}$
Étude de la matrice $D$ : On calcule $\chi_D(X) = -(X-1)^3$ . La seule valeur propre est $1$ . Posons $N = D-I = \begin{pmatrix} 1 & 1 & 1 1 & 0 & 1 -1 & -1 & -1 \end{pmatrix}$ . $F$ est stable par $D$ ssi $F$ est stable par $N$ . On a $N^2 = \begin{pmatrix} 1 & 0 & 1 0 & 0 & 0 -1 & 0 & -1 \end{pmatrix}$ et $N^3 = 0$ . $\text{Ker}(N) = \text{Vect}(w_1)$ avec $w_1 = (1, 0, -1)$ . $\text{Ker}(N^2) = \text{Vect}((1, 0, -1), (0, 1, 0))$ . - Dim 1 : $F = \text{Ker}(N)$ . - Dim 2 : $N_{|F}$ est nilpotent sur un espace de dimension 2. Son noyau est $F \cap \text{Ker}(N)$ . Comme $\dim \text{Ker}(N) = 1$ , on a forcément $\text{Ker}(N) \subset F$ . De plus, $\text{Im}(N_{|F})$ doit être inclus dans $F \cap \text{Ker}(N) = \text{Ker}(N)$ . Ceci implique $F \subset \text{Ker}(N^2)$ . Par dimension, $F = \text{Ker}(N^2)$ . $\boxed{\text{Stables}(D) = \{ \{0\}, \text{Ker}(D-I), \text{Ker}(D-I)^2, \mathbb{R}^3 \}}$

Pour une matrice non diagonalisable comme $D$ , il est fréquent de croire qu'il existe une infinité de plans stables. Or, ici, la structure du noyau itéré impose l'unicité du plan stable.