Soit et . On définit l'ensemble comme l'ensemble des matrices de qui sont à la fois semblables à et qui commutent avec :
Commencer par le cas où est une matrice diagonalisable. Utiliser la décomposition de l'espace en sous-espaces propres.
Pour le cas non diagonalisable, utiliser la décomposition de Dunford .
Construire une famille continue de matrices appartenant à en utilisant les propriétés des matrices nilpotentes.
Se rappeler que deux matrices nilpotentes et sont semblables si et seulement si .
Stabilité des sous-espaces propres par le commutant.
Décomposition de Dunford .
Invariants de similitude pour les matrices nilpotentes (dimensions des noyaux itérés).
Résolution.
Nous allons montrer que est un ensemble fini si et seulement si est diagonalisable. Plus précisément, nous montrerons que si est diagonalisable, alors , et si n'est pas diagonalisable, est infini.
Cas 1 : est diagonalisable.
Supposons que soit diagonalisable. Soit . Comme est semblable à , est également diagonalisable et possède les mêmes valeurs propres que avec les mêmes multiplicités.
Puisque , la matrice commute avec , donc laisse stables les sous-espaces propres de . Soit et le sous-espace propre associé. On a :
Soit la restriction de l'endomorphisme associé à au sous-espace . Sur ce même sous-espace, la restriction de est l'homothétie .
Comme est diagonalisable, sa restriction à un sous-espace stable est également diagonalisable. De plus, les valeurs propres de sont nécessairement des valeurs propres de . Comme est semblable à , la seule valeur propre possible pour agissant sur est .
En effet, si possédait une autre valeur propre , alors la multiplicité de pour serait supérieure à celle de , ce qui contredit . Ainsi, est une matrice diagonalisable n'ayant que pour valeur propre. On en déduit :
Ceci étant vrai pour tout , et puisque , on conclut que . Dans ce cas, l'ensemble est un singleton :
Cas 2 : n'est pas diagonalisable.
Comme nous sommes sur , toute matrice admet une décomposition de Dunford avec diagonalisable, nilpotente, , et . Puisque n'est pas diagonalisable, la partie nilpotente est non nulle : .
Pour tout , posons .
On a donc . Comme , l'application est injective. L'ensemble contient donc une famille infinie de matrices distinctes.
Conclusion.
L'ensemble est fini si et seulement si est diagonalisable.
Ne pas oublier que la similitude impose que et aient le même polynôme minimal et les mêmes dimensions de noyaux . C'est pour cela que est semblable à .