Soit et un corps algébriquement clos. Soit un polynôme unitaire de degré .
On considère l'ensemble des matrices de dont le polynôme caractéristique est égal à .
Utiliser le lemme des noyaux pour se ramener à l'étude d'endomorphismes nilpotents sur les sous-espaces caractéristiques.
Pour la question 1, rappeler qu'un endomorphisme nilpotent est caractérisé, à similitude près, par les dimensions de la suite de ses noyaux itérés .
Pour la question 2, établir un lien entre les classes de similitude d'un endomorphisme nilpotent de dimension et les partitions de l'entier .
Décomposition en sous-espaces caractéristiques (Lemme des noyaux).
Invariants de similitude des endomorphismes nilpotents (dimensions des noyaux itérés).
Combinatoire des partitions d'entiers.
1. Finitude du nombre de classes de similitude.
Soit . Puisque est algébriquement clos, le polynôme caractéristique de est scindé :
D'après le lemme des noyaux appliqué au polynôme caractéristique (théorème de Cayley-Hamilton), l'espace se décompose en somme directe de sous-espaces caractéristiques :
Chaque est stable par et . On pose l'endomorphisme associé. Soit la restriction de à . L'endomorphisme est nilpotent sur .
Deux matrices de sont semblables si et seulement si leurs restrictions à chaque sous-espace caractéristique sont respectivement semblables. Le problème se ramène donc à montrer qu'il n'existe qu'un nombre fini de classes de similitude pour un endomorphisme nilpotent sur un espace de dimension fixée .
Or, un endomorphisme nilpotent sur un espace de dimension est caractérisé, à similitude près, par la suite des dimensions des noyaux itérés :
Comme il n'y a qu'un nombre fini de suites d'entiers possibles (car ), il y a un nombre fini de classes de similitude de nilpotents.
2. Dénombrement des classes.
D'après le raisonnement précédent, le nombre de classes de similitude dans est le produit des nombres de classes de similitude des parties nilpotentes sur chaque . Soit un endomorphisme nilpotent sur un espace de dimension . D'après la théorie de la réduction des nilpotents, sa classe de similitude est déterminée par une famille de tailles de "blocs élémentaires" tels que :
Chaque correspond à la dimension d'un cycle (une base de Jordan locale). Ce problème revient exactement à dénombrer les partitions de l'entier . On note le nombre de partitions de l'entier .
Pour chaque valeur propre , il y a choix possibles pour la structure de la partie nilpotente associée. Les choix sur chaque sous-espace caractéristique étant indépendants, le nombre total de classes de similitude est le produit des nombres de partitions.
Attention à ne pas confondre le nombre de classes de similitude avec le nombre de valeurs propres. Deux matrices peuvent avoir les mêmes valeurs propres avec les mêmes multiplicités (même polynôme caractéristique) sans être semblables (par exemple, une matrice diagonale et une matrice comportant un bloc nilpotent non nul).