On définit la matrice et on considère la matrice définie par blocs :
Résoudre dans l'équation .
Commencer par montrer que si existe, elle est nilpotente et déterminer son rang.
Effectuer un changement de base pour transformer en une matrice plus simple, par exemple .
Chercher sous forme de blocs compatibles avec la structure de .
Réduction de la difficulté par changement de base (similitude).
Utilisation de la structure par blocs pour résoudre des équations de type .
Analyse du noyau et de la stabilité des sous-espaces.
Résolution.
1. Analyse préliminaire. Soit une solution. On a . Comme , on a , donc est nilpotente. Le rang de est 2. Puisque , on a . De plus, par les propriétés des endomorphismes nilpotents en dimension 4, le rang de ne peut pas être 4 (sinon est inversible). On montre par l'étude des noyaux itérés que le rang est en fait 3.
2. Simplification par similitude. Soit la base canonique de . L'endomorphisme associé à vérifie : . Réordonnons la base : . Dans cette base, la matrice de est :
On cherche telle que . Comme commute avec , doit stabiliser . Ainsi, est de la forme par blocs :
3. Résolution du système par blocs. L'équation devient :
Ceci équivaut au système :
Pour que soit possible, et ne peuvent pas être nuls (sinon la somme serait de rang ). Ainsi, et sont des matrices nilpotentes d'indice 2 dans . Elles sont donc semblables à : et .
4. Conditions sur les blocs. En posant , la troisième équation devient . Soit . On calcule :
Pour que cette matrice soit inversible, il faut et suffit que . Si cette condition est remplie, on peut poser et on aura .
Conclusion. L'ensemble des solutions est constitué des matrices où est la matrice de passage vers , et est de la forme respectant les conditions ci-dessus.
Attention à ne pas supposer que est elle-même de la forme avec . On a vu dans l'exercice 1 que n'a pas de solution. La solution ici repose sur le mélange des blocs via .