Stabilité pour un nilpotent de rang maximal

Résolution.

1. Soit $r$ l'indice de nilpotence de $u$. On sait que $r \leqslant n$ d'après le cours. La suite des noyaux itérés $(\operatorname{Ker}(u^k))_{0 \leqslant k \leqslant r}$ est strictement croissante pour l'inclusion.
   $$\{0\} = \operatorname{Ker}(u^0) \subsetneq \operatorname{Ker}(u^1) \subsetneq \dots \subsetneq \operatorname{Ker}(u^r) = E$$
   Par l'hypothèse de rang, on a $\dim \operatorname{Ker}(u^1) = n - \operatorname{rg}(u) = n - (n-1) = 1$. Comme chaque inclusion est stricte, la dimension augmente d'au moins 1 à chaque étape. Pour atteindre la dimension $n$ en partant de la dimension $1$ en $r-1$ étapes supplémentaires, il est nécessaire que $r \geqslant n$. D'où l'on conclut :
   $$\boxed{r = n}$$

2. Puisque $u^{n-1} \neq 0$, il existe un vecteur $x \in E$ tel que $u^{n-1}(x) \neq 0$. Montrons que la famille $\mathcal{B} = (x, u(x), \dots, u^{n-1}(x))$ est libre. Soit $(\lambda_0, \dots, \lambda_{n-1}) \in K^n$ tels que $\sum_{i=0}^{n-1} \lambda_i u^i(x) = 0$. En appliquant $u^{n-1}$ à cette égalité, on obtient $\lambda_0 u^{n-1}(x) = 0$, donc $\lambda_0 = 0$. Par récurrence, en appliquant les puissances successives de $u$, on montre que tous les $\lambda_i$ sont nuls. La famille $\mathcal{B}$ est donc une base de $E$. Pour $k \in \llbracket 0, n \rrbracket$, les vecteurs $u^{n-k}(x), u^{n-k+1}(x), \dots, u^{n-1}(x)$ appartiennent à $\operatorname{Ker}(u^k)$. Ces $k$ vecteurs sont linéairement indépendants, donc $\dim \operatorname{Ker}(u^k) \geqslant k$. Or, nous avons vu que la dimension ne peut croître que de 1 à chaque étape pour atteindre $n$ en $n$ étapes.
   $$\boxed{\forall k \in \llbracket 0, n \rrbracket,   \dim \operatorname{Ker}(u^k) = k}$$

3. Soit $F$ un sous-espace vectoriel de $E$ stable par $u$. Si $F = \{0\}$, alors $F = \operatorname{Ker}(u^0)$. Supposons $F \neq \{0\}$. Soit $u_F$ la restriction de $u$ à $F$. $u_F$ est un endomorphisme nilpotent de $F$. Soit $p$ son indice de nilpotence. Comme $u_F^p = 0$, on a $u^p(y) = 0$ pour tout $y \in F$, donc $F \subseteq \operatorname{Ker}(u^p)$. D'autre part, par définition de l'indice de nilpotence, il existe $z \in F$ tel que $u^{p-1}(z) \neq 0$. La famille $(z, u(z), \dots, u^{p-1}(z))$ est libre (par le même argument qu'à la question 2) et incluse dans $F$. On en déduit $\dim F \geqslant p$. Puisque $F \subseteq \operatorname{Ker}(u^p)$ et $\dim \operatorname{Ker}(u^p) = p$, on a nécessairement l'égalité :
   $$\boxed{F = \operatorname{Ker}(u^p)}$$
   Il y a exactement $n+1$ sous-espaces de cette forme (un pour chaque dimension de $0$ à $n$).

4. Soit $k \in \llbracket 0, n \rrbracket$. On remarque que $u(\operatorname{Im}(u^k)) = \operatorname{Im}(u^{k+1}) \subseteq \operatorname{Im}(u^k)$. Ainsi, $\operatorname{Im}(u^k)$ est un sous-espace vectoriel stable par $u$. D'après la question précédente, $\operatorname{Im}(u^k)$ est l'un des noyaux itérés de $u$. D'après le théorème du rang, on a :
   $$\dim \operatorname{Im}(u^k) = n - \dim \operatorname{Ker}(u^k) = n - k$$
   Le seul sous-espace stable de dimension $n-k$ étant $\operatorname{Ker}(u^{n-k})$, on en conclut :
   $$\boxed{\operatorname{Im}(u^k) = \operatorname{Ker}(u^{n-k})}$$