Décomposition cyclique des endomorphismes nilpotents

Résolution.

1. Préliminaires
   1. Soit $F$ cyclique de dimension $d$ engendré par $x$. Puisque $u$ est nilpotent, il existe $k \in \mathbb{N}^*$ tel que $u^k(x)=0$. Si $u^d(x) \neq 0$, alors la famille $(x, u(x), \dots, u^d(x))$ serait libre (propriété classique des endomorphismes nilpotents), ce qui contredirait $\dim F = d$.
      $$\boxed{u^d(x) = 0}$$

   2. Dans la base $\mathcal{B}_F = (u^{d-1}(x), u^{d-2}(x), \dots, u(x), x)$, on a $u(u^{d-1}(x)) = 0$, $u(u^{d-2}(x)) = u^{d-1}(x)$, etc. La matrice est :
      $$\boxed{\operatorname{Mat}_{\mathcal{B}_F}(u_{|F}) = \begin{pmatrix} 0 & 1 & 0 & \dots$$
      0 & 0 & 1 & \dots
      \vdots & \vdots & \ddots & \ddots
      0 & 0 & \dots & 0 \end{pmatrix}}

   3. Si $F \subset \operatorname{Ker}(u)$ est cyclique de dimension $d$, alors $u(x)=0$ pour tout $x \in F$. La famille $(x, u(x), \dots)$ se réduit à $(x)$. Donc $\dim F = 1$.
      $$\boxed{\text{Les sous-espaces } u\text{-cycliques de } \operatorname{Ker}(u) \text{ sont les droites vectorielles.}}$$

2. Existence
   1. Supposons $\sum_{j=1}^r \sum_{i=0}^{n_j} \lambda_{i,j} u^i(x_j) = 0$. En appliquant $u$, on obtient :
      $$\sum_{j=1}^r \sum_{i=0}^{n_j-1} \lambda_{i,j} u^i(y_j) + \sum_{j=1}^r \lambda_{n_j,j} u^{n_j}(y_j) = 0$$
      Comme $u^{n_j}(y_j)=0$ et que les $(u^i(y_j))$ forment une base de $\operatorname{Im}(u)$, on en déduit $\lambda_{i,j} = 0$ pour tout $j \in \{1, \dots, r\}$ et $i \in \{0, \dots, n_j-1\}$. L'équation initiale devient $\sum_{j=1}^r \lambda_{n_j,j} u^{n_j}(x_j) = 0$. Or $u^{n_j}(x_j) = u^{n_j-1}(y_j)$, et ces vecteurs font partie de la base de $\operatorname{Im}(u)$, donc ils sont libres.
      $$\boxed{\text{La famille } \mathcal{F} \text{ est libre.}}$$

   2. La somme est directe car la réunion des bases des composantes forme la famille libre $\mathcal{F}$. Un élément de $G \cap \operatorname{Ker}(u)$ s'écrit $z = \sum_{j,i} a_{i,j} u^i(x_j)$ tel que $u(z)=0$. En reprenant le raisonnement du (a), cela impose $a_{i,j}=0$ pour $i < n_j$.
      $$\boxed{G \cap \operatorname{Ker}(u) = \operatorname{Vect}(u^{n_1}(x_1), \dots, u^{n_r}(x_r))}$$

   3. On a $\dim G = \sum_{j=1}^r (n_j+1) = \dim \operatorname{Im}(u) + r$. Par construction, $G \cap \operatorname{Ker}(u)$ a pour dimension $r$. Soit $H$ tel que $\operatorname{Ker}(u) = (G \cap \operatorname{Ker}(u)) \oplus H$. Alors $\dim H = \dim \operatorname{Ker}(u) - r$. Somme directe : si $g+h=0$ avec $g \in G, h \in H$, alors $u(g+h)=u(g)=0$. Donc $g \in G \cap \operatorname{Ker}(u)$. Comme $G \cap \operatorname{Ker}(u) \cap H = \{0\}$, on a $g=0$ puis $h=0$. Dimension : $\dim(G \oplus H) = \dim G + \dim H = (\dim \operatorname{Im}(u) + r) + (\dim \operatorname{Ker}(u) - r) = n$.
      $$\boxed{E = G \oplus H}$$

   4. Chaque composante de $G$ est cyclique. $H$ est une somme directe de droites (qui sont cycliques de dimension 1). On obtient la forme de Jordan par blocs.

3. Unicité
   1. $J_d$ est la matrice d'un décalage. $J_d^k$ possède des 1 sur la $k$-ième sur-diagonale.
      $$\boxed{\dim \operatorname{Ker}(J_d^k) = \min(k, d)}$$

   2. Soit $m_d$ le nombre de blocs de taille $d$. Alors $\dim \operatorname{Ker}(u^k) = \sum_{d \geq 1} m_d \min(k, d)$. En calculant la différence : $d_k = \dim \operatorname{Ker}(u^k) - \dim \operatorname{Ker}(u^{k-1}) = \sum_{d \geq 1} m_d (\min(k, d) - \min(k-1, d))$. Le terme $\min(k, d) - \min(k-1, d)$ vaut $1$ si $d \geq k$ et $0$ sinon.
      $$\boxed{d_k = \sum_{d \geq k} m_d}$$

   3. Le nombre de blocs de taille exactement $k$ est $m_k = d_k - d_{k+1}$. Comme les dimensions des noyaux itérés sont des invariants de l'endomorphisme, les entiers $m_k$ sont fixés.
      $$\boxed{\text{La suite des tailles des blocs est unique.}}$$