Sous-espace stable et facteurs du polynôme minimal

Résolution.

1. Étape 1 : Existence d'un vecteur dont le polynôme annulateur est $P$. Puisque $P$ est un facteur irréductible de $\Pi_u$, on peut écrire $\Pi_u = P \cdot Q$ avec $Q \in \mathbb{K}[X]$. Par définition du polynôme minimal, $Q(u)$ n'est pas l'endomorphisme nul. Il existe donc un vecteur $y \in E$ tel que $x = Q(u)(y) \neq 0$. En utilisant le fait que $\Pi_u(u) = 0$, on obtient :
   $$P(u)(x) = P(u) \circ Q(u)(y) = \Pi_u(u)(y) = 0$$
   Ainsi, le vecteur $x$ est un vecteur non nul appartenant à $\ker P(u)$. Étape 2 : Construction du sous-espace stable. Considérons le sous-espace vectoriel $F$ engendré par la famille $\mathcal{B} = (x, u(x), \dots, u^{p-1}(x))$ :
   $$F = \text{Vect}\left( x, u(x), \dots, u^{p-1}(x) \right)$$
   Montrons que $F$ est stable par $u$. Pour tout $k \in \{0, \dots, p-2\}$, l'image de $u^k(x)$ par $u$ est $u^{k+1}(x)$, qui appartient par définition à $F$. Pour le dernier vecteur de la famille, $u(u^{p-1}(x)) = u^p(x)$. Comme $P(u)(x) = 0$ et que $P$ est de degré $p$, on peut écrire $P = X^p + \sum_{i=0}^{p-1} a_i X^i$ (quitte à diviser par le coefficient dominant). On a alors :
   $$u^p(x) = - \sum_{i=0}^{p-1} a_i u^i(x)$$
   Ceci montre que $u^p(x) \in F$. Par linéarité, $u(F) \subset F$. Étape 3 : Dimension de $F$. Montrons que la famille $\mathcal{B}$ est libre. Supposons qu'il existe une combinaison linéaire nulle $\sum_{i=0}^{p-1} \lambda_i u^i(x) = 0$. Le polynôme $L = \sum_{i=0}^{p-1} \lambda_i X^i$ est alors un polynôme annulateur de $x$ par $u$. Or, le polynôme minimal de $x$ par rapport à $u$ (noté $\Pi_{u,x}$) divise tout polynôme annulateur de $x$. Comme $P(u)(x)=0$, $\Pi_{u,x}$ divise $P$. $P$ étant irréductible et $\Pi_{u,x}$ n'étant pas constant (car $x \neq 0$), on a nécessairement $\Pi_{u,x} = P$ (à un facteur scalaire près). Par conséquent, tout polynôme annulateur non nul de $x$ doit être de degré au moins $\deg(P) = p$. Comme $\deg(L) < p$, cela impose $L=0$, donc tous les $\lambda_i$ sont nuls. La famille est libre et contient $p$ vecteurs, donc :
   $$\boxed{\dim(F) = p}$$

2. Cas où $\mathbb{K$ = \mathbb{R}.} D'après le théorème fondamental de l'algèbre et la structure des polynômes à coefficients réels, les polynômes irréductibles de $\mathbb{R}[X]$ sont :
   • Les polynômes de degré 1.
   • Les polynômes de degré 2 de la forme $X^2 + bX + c$ avec un discriminant $\Delta = b^2 - 4c < 0$.
   Puisque tout endomorphisme en dimension finie possède un polynôme minimal, il possède au moins un facteur irréductible dans $\mathbb{R}[X]$. D'après la question précédente, si ce facteur est de degré 1, il existe un sous-espace stable de dimension 1 (une droite stable, correspondant à un vecteur propre). Si ce facteur est de degré 2, il existe un sous-espace stable de dimension 2 (un plan stable). On en conclut que :
   $$\boxed{\text{Tout endomorphisme d'un }\mathbb{R}\text{-espace vectoriel de dimension finie admet au moins une droite ou un plan stable.}}$$