Endomorphismes à trois plans stables

Soit $E$ un espace vectoriel réel de dimension 3.

Déterminer l'ensemble des endomorphismes $f \in \mathcal{L}(E)$ possédant exactement trois plans stables distincts.

1.

Utiliser la dualité ou la transposition : un plan $H$ est stable par $f$ si et seulement si son noyau (ou son orthogonal pour le produit scalaire canonique en se plaçant dans une base) est une droite stable pour l'endomorphisme transposé $f^*$ .

2.

Se ramener à l'étude des droites stables de $f$ .

3.

Discuter selon la nature des valeurs propres de $f$ (réelles ou complexes, multiplicités).

Idées clés

•

Lien entre plans stables de $f$ et droites stables de $^t \! f$ .

•

Caractérisation des droites stables comme droites portées par des vecteurs propres.

•

Analyse du nombre de vecteurs propres selon le polynôme caractéristique.

Étape 1 : Passage par la transposition.

Soit $f \in \mathcal{L}(E)$ . Un plan $H$ de $E$ est stable par $f$ si et seulement si l'annulateur de $H$ dans le dual $E^*$ , noté $H^\circ = \{ \varphi \in E^* \mid \forall x \in H, \varphi(x) = 0 \}$ , est stable par l'application transposée $^t \! f$ .

Comme $\dim E = 3$ et $\dim H = 2$ , on a $\dim H^\circ = 3 - 2 = 1$ .

L'ensemble des plans stables de $f$ est donc en bijection avec l'ensemble des droites de $E^*$ stables par $^t \! f$ .

\boxed{\text{Plans stables de } f \iff \text{Droites stables de } ^t \! f}

Étape 2 : Recherche des droites stables.

Une droite $D$ de $E^*$ est stable par $^t \! f$ si et seulement si elle est dirigée par un vecteur propre de $^t \! f$ . Comme $f$ et $^t \! f$ ont le même polynôme caractéristique $\chi_f$ , ils ont les mêmes valeurs propres.

Notons $\text{Sp}(f)$ le spectre de $f$ . Étudions les différents cas pour le nombre de droites stables de $^t \! f$ (et donc de plans stables de $f$ ) :

Cas 1 : $f$ possède 3 valeurs propres réelles distinctes $\lambda_1, \lambda_2, \lambda_3$ . Alors $^t \! f$ possède également 3 valeurs propres réelles distinctes. Les sous-espaces propres associés sont trois droites distinctes. Tout vecteur propre appartient à l'un de ces sous-espaces. Il y a donc exactement 3 droites stables.
Cas 2 : $f$ possède une valeur propre réelle simple $\lambda$ et deux valeurs propres complexes non réelles $a \pm ib$ . Dans ce cas, $^t \! f$ n'a qu'une seule valeur propre réelle. Il n'y a qu'une seule droite stable (les autres plans de $E^*$ stables par $^t \! f$ seraient de dimension 2, correspondant à la partie réelle et imaginaire des vecteurs propres complexes, mais ici on cherche des droites).
Cas 3 : $f$ possède une valeur propre double ou triple. - Si $f$ possède une valeur propre $\lambda$ de multiplicité $m \geq 2$ et que la dimension du sous-espace propre associé est $\geq 2$ , il existe une infinité de droites stables dans ce sous-espace. - Si $f$ n'est pas diagonalisable (par exemple un bloc de Jordan de taille 2 ou 3), on peut n'avoir qu'une ou deux droites stables. Par exemple, si $\chi_f = (X-\lambda)^3$ et $\dim \ker(f-\lambda I) = 1$ , il n'y a qu'une seule droite stable.

Conclusion.

Pour avoir exactement trois plans stables, il est nécessaire et suffisant que $^t \! f$ possède exactement trois droites stables.

D'après l'analyse ci-dessus, cela se produit si et seulement si $f$ possède trois valeurs propres réelles distinctes.

\boxed{f \text{ est diagonalisable avec trois valeurs propres réelles distinctes.}}

Ne pas oublier que sur $\mathbb{R}$ , un endomorphisme peut avoir des valeurs propres complexes. Dans ce cas, il n'y a pas de "droite" stable associée à ces valeurs propres, mais il pourrait y avoir des plans stables (correspondant au sous-espace stable de dimension 2 engendré par les parties réelles et imaginaires des vecteurs propres complexes). Ici, l'exercice demande exactement trois plans.