Diagonalisabilité d'opérateurs de composition

Soit $E$ un espace vectoriel de dimension finie sur un corps $\mathbb{K}$ . On considère deux endomorphismes $f$ et $h$ appartenant à $\mathcal{L}(E)$ . Pour tout $g \in \mathcal{L}(E)$ , on définit les applications suivantes :

F(g) = g \circ f   \text{et}   H(g) = h \circ g

1. Pour tout $k \in \mathbb{N}$ , exprimer $F^k$ et $H^k$ en fonction de $f^k$ et $h^k$ .
2. Démontrer que $F$ est diagonalisable si et seulement si $f$ est diagonalisable. Établir un résultat analogue pour $H$ et $h$ .
On s'intéresse à l'endomorphisme $\Psi$ de $\mathcal{L}(E)$ défini par $\Psi(g) = h \circ g \circ f$ . Donner une condition suffisante sur $f$ et $h$ pour que $\Psi$ soit diagonalisable.
On suppose ici que $\mathbb{K} = \mathbb{C}$ . Déterminer une condition nécessaire et suffisante sur $f$ et $h$ pour que l'endomorphisme $\Psi$ soit diagonalisable.

1.

Pour la question 1, utiliser la relation entre les polynômes de l'endomorphisme $F$ et les polynômes de l'endomorphisme $f$ . Remarquer que $P(F)(Id) = P(f)$ .

2.

Pour la question 2, vérifier que $F$ et $H$ commutent et utiliser un résultat sur la diagonalisation simultanée.

3.

Pour la question 3, si $f \neq 0$ et $h \neq 0$ , on peut considérer la restriction de $\Psi$ à des sous-espaces de dimension 1 de la forme $\{ x \mapsto \phi(x) v \}$ pour des vecteurs propres bien choisis.

Idées clés

•

Lien entre polynôme annulateur d'un endomorphisme d'un espace de matrices et l'endomorphisme de base.

•

Utilisation de la caractérisation par le polynôme minimal (scindé à racines simples).

•

Commutation d'endomorphismes et diagonalisation simultanée.

Résolution.

1. Par récurrence immédiate, on montre que pour tout $g \in \mathcal{L}(E)$ : $F^2(g) = F(g \circ f) = (g \circ f) \circ f = g \circ f^2$ Plus généralement, pour tout $k \in \mathbb{N}$ : $\boxed{F^k(g) = g \circ f^k \text{et} H^k(g) = h^k \circ g}$
2. Par linéarité, pour tout polynôme $P \in \mathbb{K}[X]$ , on a $P(F)(g) = g \circ P(f)$ . Supposons $f$ diagonalisable. Son polynôme minimal $\pi_f$ est scindé à racines simples. Or, pour tout $g$ , $\pi_f(F)(g) = g \circ \pi_f(f) = g \circ 0 = 0$ . Ainsi $\pi_f$ annule $F$ . $F$ possède un polynôme annulateur scindé à racines simples, donc $F$ est diagonalisable. Réciproquement, si $F$ est diagonalisable, il existe $P$ scindé à racines simples tel que $P(F) = 0$ . En particulier, $P(F)(Id) = 0$ , ce qui implique $Id \circ P(f) = 0$ , soit $P(f) = 0$ . L'endomorphisme $f$ possède un polynôme annulateur scindé à racines simples, il est donc diagonalisable. Le raisonnement est identique pour $H$ et $h$ en utilisant $P(H)(g) = P(h) \circ g$ .
Remarquons que $\Psi = H \circ F$ . En effet : $(H \circ F)(g) = H(g \circ f) = h \circ (g \circ f) = \Psi(g)$ De même, $(F \circ H)(g) = F(h \circ g) = (h \circ g) \circ f = \Psi(g)$ . Ainsi $F$ et $H$ commutent. D'après la question précédente, si $f$ et $h$ sont diagonalisables, alors $F$ et $H$ le sont. Deux endomorphismes diagonalisables qui commutent sont codiagonalisables (diagonalisables dans une base commune). Si une base $(g_i)$ de $\mathcal{L}(E)$ diagonalise simultanément $F$ et $H$ , alors chaque $g_i$ est un vecteur propre pour $F$ (valeur propre $\lambda_i$ ) et pour $H$ (valeur propre $\mu_i$ ). On a alors $\Psi(g_i) = H(F(g_i)) = H(\lambda_i g_i) = \lambda_i \mu_i g_i$ . La base $(g_i)$ diagonalise donc $\Psi$ . Condition suffisante : $f$ et $h$ sont diagonalisables.
Analyse du cas général sur $\mathbb{C$ $C$ :} Si $f=0$ ou $h=0$ , alors $\Psi = 0$ , qui est diagonalisable. Supposons désormais $f \neq 0$ et $h \neq 0$ . Montrons que $\Psi$ est diagonalisable si et seulement si $f$ et $h$ le sont. Le sens "si" a été traité en (b). Pour le sens "seulement si" : Soit $\mu \in \text{Sp}(h)$ une valeur propre non nulle de $h$ (elle existe si $h$ n'est pas nilpotent). Soit $v$ un vecteur propre associé : $h(v) = \mu v$ . Soit $x^* \in E^*$ une forme linéaire non nulle. Considérons le sous-espace stable $V = \{ g \in \mathcal{L}(E) \mid \text{Im}(g) \subset \text{Vect}(v) \}$ . Tout élément de $V$ s'écrit $g(x) = \phi(x) v$ pour une certaine forme linéaire $\phi$ . Alors $\Psi(g)(x) = h( \phi(f(x)) v ) = \phi(f(x)) h(v) = \mu \phi(f(x)) v$ . L'action de $\Psi$ sur $V$ est isomorphe à l'action de $\mu \cdot f^T$ sur $E^*$ . Si $\Psi$ est diagonalisable, sa restriction à tout sous-espace stable l'est aussi. Donc $\mu \cdot f^T$ est diagonalisable. Comme $\mu \neq 0$ , $f^T$ est diagonalisable, donc $f$ est diagonalisable. Le raisonnement est symétrique pour $h$ en utilisant des vecteurs propres de $f$ . Si $h$ (ou $f$ ) est nilpotent non nul, $\Psi$ est nilpotent non nul, donc non diagonalisable. Conclusion : $\boxed{\Psi \text{ est diag. } \iff (f \text{ et } h \text{ sont diag.}) \text{ ou } f=0 \text{ ou } h=0}$

Attention à ne pas oublier les cas triviaux $f=0$ ou $h=0$ . Un endomorphisme nul est toujours diagonalisable même si les "composants" ne le sont pas (par exemple si $h=0$ et $f$ est une matrice nilpotente non nulle).