Propriétés d'un commutateur de commutants

Soient $a$ et $b$ deux endomorphismes d'un espace vectoriel $E$ de dimension finie $n \ge 1$ sur le corps $\mathbb{K} = \mathbb{R}$ ou $\mathbb{C}$ .

On définit l'endomorphisme $c = a \circ b - b \circ a$ . On suppose que $c$ commute avec $a$ et avec $b$ .

Soit $\lambda$ une valeur propre de $c$ et $E_\lambda(c)$ le sous-espace propre associé. Montrer que $E_\lambda(c)$ est stable par $a$ et par $b$ .
En considérant la restriction de la relation de définition de $c$ au sous-espace $E_\lambda(c)$ , établir la relation : $\lambda \cdot \dim(E_\lambda(c)) = 0$
En déduire que le spectre de $c$ est inclus dans $\{0\}$ .
Montrer que si $c$ est supposé diagonalisable, alors $c$ est nécessairement l'endomorphisme nul.

1.

Utiliser le lemme classique : si deux endomorphismes commutent, les sous-espaces propres de l'un sont stables par l'autre.

2.

Restreindre $a$ et $b$ à $E_\lambda(c)$ et utiliser la propriété de la trace d'un commutateur $[u, v] = uv - vu$ .

3.

Se souvenir qu'en dimension finie, un endomorphisme diagonalisable dont la seule valeur propre est 0 est nul.

Idées clés

•

Stabilité des sous-espaces propres par un endomorphisme qui commute.

•

La trace d'un commutateur $u \circ v - v \circ u$ est toujours nulle en dimension finie.

•

Lien entre spectre et diagonalisabilité.

Résolution.

Supposons que $\lambda$ soit une valeur propre de $c$ . Par définition, $E_\lambda(c) = \ker(c - \lambda \text{Id}_E)$ .
Puisque $a$ commute avec $c$ , il commute également avec tout polynôme en $c$ , notamment avec $c - \lambda \text{Id}_E$ . Soit $x \in E_\lambda(c)$ . On a :
$(c - \lambda \text{Id}_E)(a(x)) = a((c - \lambda \text{Id}_E)(x)) = a(0) = 0$ Ainsi, $a(x) \in E_\lambda(c)$ , ce qui prouve la stabilité de $E_\lambda(c)$ par $a$ .
\medskip Le même raisonnement s'applique à $b$ car $b$ et $c$ commutent par hypothèse. \boxed{ E_\lambda(c) \text{ est stable par } a \text{ et par } b }
Puisque $E_\lambda(c)$ est stable par $a$ et $b$ , on peut définir les endomorphismes induits (restrictions) : $a_\lambda = a_{|E_\lambda(c)} \text{et} b_\lambda = b_{|E_\lambda(c)}$
Par définition de $c$ , nous avons la relation $c = a \circ b - b \circ a$ . En restreignant cette égalité au sous-espace $E_\lambda(c)$ , et sachant que $c$ agit comme l'homothétie $\lambda \text{Id}$ sur cet espace, on obtient :
$a_\lambda \circ b_\lambda - b_\lambda \circ a_\lambda = \lambda \text{Id}_{E_\lambda(c)}$
Appliquons l'application trace, qui est linéaire, à cette égalité d'endomorphismes d'un espace de dimension finie :
$\text{Tr}(a_\lambda \circ b_\lambda - b_\lambda \circ a_\lambda) = \text{Tr}(\lambda \text{Id}_{E_\lambda(c)})$
Or, pour tous endomorphismes $u, v$ , on sait que $\text{Tr}(u \circ v) = \text{Tr}(v \circ u)$ , d'où $\text{Tr}(u \circ v - v \circ u) = 0$ . On en déduit :
$0 = \lambda \cdot \text{Tr}(\text{Id}_{E_\lambda(c)})$
Comme la trace de l'identité est la dimension de l'espace, on parvient au résultat :
$\boxed{ \lambda \cdot \dim(E_\lambda(c)) = 0 }$
Soit $\lambda \in \text{Sp}(c)$ . Par définition d'une valeur propre, le sous-espace propre associé $E_\lambda(c)$ n'est pas réduit au vecteur nul. Par conséquent, $\dim(E_\lambda(c)) \ge 1$ .
D'après la question précédente, l'égalité $\lambda \cdot \dim(E_\lambda(c)) = 0$ impose alors nécessairement :
$\lambda = 0$
Ceci démontre que la seule valeur propre possible de $c$ est 0. \boxed{ \text{Sp}(c) \subset \{0\} }
Supposons maintenant que $c$ soit diagonalisable. D'après la question précédente, son spectre est soit vide (impossible en dimension $n \ge 1$ sur $\mathbb{C}$ ), soit réduit à $\{0\}$ . Sur $\mathbb{R}$ , le spectre pourrait être vide si le polynôme caractéristique n'est pas scindé, mais ici, la trace et les propriétés de commutation montrent que si une valeur propre existe, elle est nulle. Si $c$ est diagonalisable, il existe une base de $E$ dans laquelle la matrice de $c$ est diagonale. Les éléments diagonaux étant les valeurs propres de $c$ , ils sont tous nuls. La matrice de $c$ dans cette base est donc la matrice nulle. $\boxed{ c = 0 }$

Une erreur fréquente est d'oublier de justifier la stabilité de l'espace propre avant de restreindre les endomorphismes. Sans cette stabilité, l'écriture $a_\lambda \circ b_\lambda$ n'a pas de sens car l'image de $a_\lambda$ pourrait sortir de $E_\lambda(c)$ .