Dénombrement de classes de similitude

1. Cas complexe : $\mathbb{K$ = \mathbb{C}}

1. Soit $M \in \mathcal{M}_n(\mathbb{C})$ telle que $M^5 - M^2 = 0$. Le polynôme $P(X) = X^2(X-1)(X-j)(X-j^2)$ est un polynôme annulateur de $M$. D'après le lemme des noyaux, on a la décomposition en sous-espaces stables suivante :
   $$\mathbb{C}^n = \ker(M^2) \oplus \ker(M-I) \oplus \ker(M-jI) \oplus \ker(M-j^2I)$$
   Notons $n_0, n_1, n_j, n_{j^2}$ les dimensions respectives de ces sous-espaces. On a la contrainte :
   $$n_0 + n_1 + n_j + n_{j^2} = n$$

2. Analysons les classes de similitude des restrictions de $M$ à chaque sous-espace :
   • Sur $E_1 = \ker(M-I)$, la restriction est $Id_{E_1}$. Une seule classe possible pour une dimension $n_1$ fixée.
   • Sur $E_j = \ker(M-jI)$, la restriction est $j Id_{E_j}$. Une seule classe possible pour $n_j$ fixé.
   • Sur $E_{j^2} = \ker(M-j^2I)$, la restriction est $j^2 Id_{E_{j^2}}$. Une seule classe possible pour $n_{j^2}$ fixé.
   • Sur $E_0 = \ker(M^2)$, la restriction $N$ vérifie $N^2 = 0$.

3. Étudions les classes de similitude de $N \in \mathcal{M}_{n_0}(\mathbb{C})$ telle que $N^2 = 0$. Soit $r = \text{rg}(N)$. Comme $N^2 = 0$, on a $\text{Im}(N) \subset \ker(N)$. D'après le théorème du rang, $n_0 = \text{rg}(N) + \dim \ker(N) \ge 2\text{rg}(N)$, d'où :
   $$\boxed{0 \le r \le \left\lfloor \frac{n_0}{2} \right\rfloor}$$
   Pour un rang $r$ fixé, $N$ est semblable à une matrice blocs diagonale composée de $r$ blocs de la forme $\begin{pmatrix} 0 & 1$
   0 & 0 \end{pmatrix} et de $n_0 - 2r$ blocs nuls $(0)$. Ainsi, il y a exactement $\lfloor \frac{n_0}{2} \rfloor + 1$ classes de similitude pour $N$.

4. Conclusion pour $\mathbb{C$ :} Deux matrices sont semblables si et seulement si elles ont les mêmes dimensions de sous-espaces caractéristiques et le même rang pour la partie nilpotente. Le nombre de classes est donc :
   $$\boxed{ \mathcal{N}_{\mathbb{C}} = \sum_{n_0+n_1+n_j+n_{j^2}=n} \left( \left\lfloor \frac{n_0}{2} \right\rfloor + 1 \right) }$$

2. Cas réel : $\mathbb{K$ = \mathbb{R}}

1. Sur $\mathbb{R}$, le polynôme s'écrit $P(X) = X^2(X-1)(X^2+X+1)$. La décomposition devient :
   $$\mathbb{R}^n = \ker(M^2) \oplus \ker(M-I) \oplus \ker(M^2+M+I)$$
   Soient $n_0, n_1, n_{\omega}$ les dimensions de ces espaces, avec $n_0 + n_1 + n_{\omega} = n$.

2. La restriction à $\ker(M^2+M+I)$ possède un polynôme minimal divisant $X^2+X+1$. Comme ce dernier est irréductible sur $\mathbb{R}$, le polynôme minimal est exactement $X^2+X+1$. Sur ce sous-espace, $M$ est diagonalisable sur $\mathbb{C}$ avec pour valeurs propres $j$ et $j^2$. Puisque $M$ est réelle, ces valeurs propres ont la même multiplicité $k$. La dimension $n_{\omega}$ est donc nécessairement paire : $n_{\omega} = 2k$. Pour une dimension $2k$ fixée, il n'y a qu'une seule classe de similitude réelle (toutes ces matrices sont semblables sur $\mathbb{C}$ à la même matrice diagonale, donc elles sont semblables sur $\mathbb{R}$). On peut prendre comme représentant des blocs de la forme $\begin{pmatrix} 0 & -1$
   1 & -1 \end{pmatrix}.

3. Pour $\ker(M^2)$, l'argument du rang reste identique : $\lfloor \frac{n_0}{2} \rfloor + 1$ classes.

4. Conclusion pour $\mathbb{R$ :} Le nombre de classes est :
   $$\boxed{ \mathcal{N}_{\mathbb{R}} = \sum_{n_0+n_1+2k=n} \left( \left\lfloor \frac{n_0}{2} \right\rfloor + 1 \right) }$$