Propriétés de l'opérateur de commutation

Résolution.

1. Cas où $f$ est diagonalisable.
   1. Soit $\mathcal{B} = (e_1, \dots, e_n)$ une base de $E$ constituée de vecteurs propres de $f$. Il existe donc des scalaires $(\lambda_1, \dots, \lambda_n) \in \mathbb{K}^n$ tels que pour tout $k \in \{1, \dots, n\}$ :
      $$f(e_k) = \lambda_k e_k$$

      Considérons la base de $\mathcal{L}(E)$ notée $(u_{i,j})_{1 \leq i, j \leq n}$ définie par :

      $$u_{i,j}(e_k) = \delta_{j,k} e_i$$
      où $\delta_{j,k}$ désigne le symbole de Kronecker.

      Calculons l'image de $u_{i,j}$ par l'application $\Phi_f$. Pour tout $k \in \{1, \dots, n\}$ :

      $$\Phi_f(u_{i,j})(e_k) = (f \circ u_{i,j})(e_k) - (u_{i,j} \circ f)(e_k)$$

      D'une part, on a :

      $$f(u_{i,j}(e_k)) = f(\delta_{j,k} e_i) = \delta_{j,k} f(e_i) = \delta_{j,k} \lambda_i e_i$$

      D'autre part, on a :

      $$u_{i,j}(f(e_k)) = u_{i,j}(\lambda_k e_k) = \lambda_k u_{i,j}(e_k) = \lambda_k \delta_{j,k} e_i$$

      Par linéarité de la différence, il vient :

      $$\Phi_f(u_{i,j})(e_k) = (\lambda_i - \lambda_j) \delta_{j,k} e_i = (\lambda_i - \lambda_j) u_{i,j}(e_k)$$

      Comme cette égalité est vraie pour tout vecteur $e_k$ de la base $\mathcal{B}$, on en déduit l'égalité d'endomorphismes :

      $$\boxed{\Phi_f(u_{i,j}) = (\lambda_i - \lambda_j) u_{i,j}}$$

   2. Chaque $u_{i,j}$ est donc un vecteur propre de $\Phi_f$ associé à la valeur propre $\lambda_i - \lambda_j$. La famille $(u_{i,j})_{1 \leq i,j \leq n}$ forme une base de $\mathcal{L}(E)$ car elle est l'image de la base canonique de $\mathcal{M}_n(\mathbb{K})$ par l'isomorphisme de représentation matricielle dans la base $\mathcal{B}$.

      L'endomorphisme $\Phi_f$ possède une base de vecteurs propres, il est donc diagonalisable. Ses valeurs propres sont les différences des valeurs propres de $f$ :

      $$\boxed{\text{Sp}(\Phi_f) = \{ \lambda - \mu \mid (\lambda, \mu) \in \text{Sp}(f)^2 \}}$$

2. Cas où $f$ est nilpotent.

   Introduisons deux endomorphismes de l'espace vectoriel $\mathcal{L}(E)$ :

   $$L_f : g \mapsto f \circ g   \text{et}   R_f : g \mapsto g \circ f$$

   L'application $\Phi_f$ s'écrit alors $\Phi_f = L_f - R_f$. Remarquons que $L_f$ et $R_f$ commutent. En effet, pour tout $g \in \mathcal{L}(E)$ :

   $$(L_f \circ R_f)(g) = f \circ (g \circ f) = (f \circ g) \circ f = (R_f \circ L_f)(g)$$

   Puisque $f$ est nilpotent, il existe un entier $p \in \mathbb{N}^*$ tel que $f^p = 0$. On observe alors que :

   $$L_f^p(g) = f^p \circ g = 0   \text{et}   R_f^p(g) = g \circ f^p = 0$$
   Ainsi $L_f$ et $R_f$ sont des endomorphismes nilpotents de $\mathcal{L}(E)$.

   Comme $L_f$ et $-R_f$ commutent, nous pouvons appliquer la formule du binôme de Newton pour tout $N \in \mathbb{N}$ :

   $$\Phi_f^N = (L_f - R_f)^N = \sum_{k=0}^N \binom{N}{k} L_f^{N-k} \circ (-R_f)^k$$

   Choisissons $N = 2p - 1$. Dans chaque terme de la somme, on a soit $k \geq p$, soit $N-k = 2p-1-k \geq p$ (car si $k \leq p-1$, alors $2p-1-k \geq 2p-1-(p-1) = p$). Par conséquent, chaque terme $L_f^{N-k} \circ (-R_f)^k$ est nul car soit $L_f^{N-k} = 0$, soit $R_f^k = 0$.

   On en conclut que $\Phi_f^{2p-1} = 0$, ce qui prouve que $\Phi_f$ est nilpotent.

   $$\boxed{\Phi_f \text{ est nilpotent}}$$