Existence de droites et plans stables

Soit $E$ un $\mathbb{K}$-espace vectoriel de dimension finie $n \geq 1$ et $f \in \mathcal{L}(E)$. On note $\mu_{f}$ le polynôme minimal de $f$.

Soit $P \in \mathbb{K}[X]$ un diviseur non constant de $\mu_{f}$. Montrer qu'il existe un vecteur $v \in E \setminus \{0\}$ tel que $v \in \ker P(f)$.
Soit $F$ un plan vectoriel de $E$ (c'est-à-dire un sous-espace de dimension 2) stable par $f$. Démontrer qu'il existe un polynôme $P \in \mathbb{K}_{2}[X]$ non constant, diviseur de $\mu_{f}$, tel que $F \subset \operatorname{Ker} P(f)$.
Réciproquement, soit $P \in \mathbb{K}[X]$ un diviseur de $\mu_{f}$ de degré 2. Montrer que $\operatorname{Ker} P(f)$ contient au moins un plan stable par $f$.
Dans cette question, on suppose $\mathbb{K}=\mathbb{R}$. En utilisant les résultats précédents, établir que tout endomorphisme d'un $\mathbb{R}$-espace vectoriel de dimension finie non nulle admet au moins une droite vectorielle stable ou un plan vectoriel stable.

1.

Pour la question 1, raisonner par l'absurde en utilisant la définition du polynôme minimal comme étant le polynôme annulateur non nul de plus bas degré.

2.

Pour la question 2, considérer la restriction de $f$ au plan $F$ et son polynôme minimal (ou caractéristique).

3.

Pour la question 3, distinguer le cas où $P$ est irréductible et le cas où $P$ possède des racines dans $\mathbb{K}$.

4.

Pour la question 4, se rappeler la forme des polynômes irréductibles dans $\mathbb{R}[X]$.

Idées clés

•

Lien entre diviseurs du polynôme minimal et noyaux non triviaux.

•

Propriétés de la restriction d'un endomorphisme à un sous-espace stable.

•

Structure des polynômes irréductibles sur $\mathbb{R}$.

Résolution.

Supposons par l'absurde que $\ker P(f) = \{0\}$. Puisque $E$ est de dimension finie, l'endomorphisme $P(f)$ est donc injectif, ce qui implique qu'il est bijectif. Comme $P$ divise $\mu_f$, il existe un polynôme $Q \in \mathbb{K}[X]$ tel que : $\mu_f = P \cdot Q$ En évaluant en $f$, nous obtenons : $\mu_f(f) = P(f) \circ Q(f) = 0$ En composant par $(P(f))^{-1}$ à gauche, il vient : $Q(f) = 0$ Or, $P$ est non constant, donc $\deg(Q) < \deg(\mu_f)$. Ceci contredit la définition du polynôme minimal $\mu_f$ (plus petit degré des polynômes annulateurs non nuls). Ainsi, l'hypothèse de départ est fausse : $\boxed{\ker P(f) \neq \{0\}}$
Soit $F$ un plan stable par $f$. On note $g = f_{|F} \in \mathcal{L}(F)$ la restriction de $f$ à $F$. Le polynôme minimal de $g$, noté $\mu_g$, est de degré au plus $\dim(F) = 2$. Comme tout vecteur $v \in F$ est annulé par $\mu_g(g)$, on a : $F \subset \ker \mu_g(f)$ De plus, comme $F$ est stable par $f$, on sait que pour tout polynôme $A \in \mathbb{K}[X]$, $A(g) = A(f)_{|F}$. Puisque $\mu_f(f) = 0$, on a $\mu_f(g) = 0$, ce qui implique que $\mu_g$ divise $\mu_f$. En posant $P = \mu_g$, on a bien $P \in \mathbb{K}_2[X]$, $P$ non constant (car $F \neq \{0\}$) et : $\boxed{P \mid \mu_f \text{et} F \subset \ker P(f)}$
Soit $P$ un diviseur de $\mu_f$ de degré 2. D'après la question 1, il existe $x \in \ker P(f) \setminus \{0\}$. Considérons deux cas : Cas 1 : $P$ est irréductible sur $\mathbb{K$.} Montrons que la famille $(x, f(x))$ est libre. Si elle était liée, on aurait $f(x) = \lambda x$ pour un $\lambda \in \mathbb{K}$. Le polynôme $X - \lambda$ annulerait $x$. Or, le polynôme minimal de $x$ sous $f$, noté $\mu_{f,x}$, divise tout polynôme annulant $x$, donc $\mu_{f,x}$ diviserait $P$. Comme $P$ est irréductible de degré 2, ses seuls diviseurs unitaires sont $1$ et $P$. Cela forcerait $\mu_{f,x} = P$, ce qui est impossible car $\deg(\mu_{f,x}) = 1$. Ainsi, $F = \operatorname{Vect}(x, f(x))$ est un plan. Il est stable par $f$ car $f(f(x))$ s'exprime en fonction de $x$ et $f(x)$ puisque $P(f)(x) = 0$. Cas 2 : $P$ est scindé sur $\mathbb{K$.} On peut écrire $P = (X-\lambda)(X-\beta)$. Si $\lambda \neq \beta$, $\ker P(f) = \ker(f-\lambda \operatorname{id}) \oplus \ker(f-\beta \operatorname{id})$ d'après le lemme des noyaux. Comme $P \mid \mu_f$, chaque noyau contient au moins une droite propre. La somme de deux droites propres distinctes forme un plan stable. Si $\lambda = \beta$, alors $P = (X-\lambda)^2$. Comme $P \mid \mu_f$, il existe $x$ tel que $(f-\lambda \operatorname{id})^2(x) = 0$ mais $(f-\lambda \operatorname{id})(x) \neq 0$ (sinon $(X-\lambda)$ serait le polynôme minimal local, mais on peut toujours trouver un tel $x$ car $(X-\lambda)^2$ divise $\mu_f$). Alors $\operatorname{Vect}(x, f(x))$ est un plan stable. Dans tous les cas : $\boxed{\ker P(f) \text{ contient un plan stable}}$
Supposons $\mathbb{K} = \mathbb{R}$. Le polynôme minimal $\mu_f$ appartient à $\mathbb{R}[X]$. D'après le théorème fondamental de l'algèbre, les facteurs irréductibles de $\mu_f$ dans $\mathbb{R}[X]$ sont de degré 1 ou 2. Soit $Q$ un tel facteur irréductible. Si $\deg Q = 1$ : Alors $Q = X - \lambda$. D'après la question 1, $\ker(f - \lambda \operatorname{id}) \neq \{0\}$. Toute droite engendrée par un vecteur propre de ce noyau est une droite stable. Si $\deg Q = 2$ : Alors $Q$ est un diviseur de $\mu_f$ de degré 2. D'après la question 3, $\ker Q(f)$ contient un plan stable par $f$. On en déduit que : $\boxed{f \text{ admet toujours une droite ou un plan stable sur } \mathbb{R}}$

Dans la question 3, attention à ne pas affirmer que $(x, f(x))$ est libre sans justification. Si $x$ est un vecteur propre, cette famille est liée. Il faut utiliser le fait que $P$ est le polynôme minimal local de $x$ pour garantir la dimension.