Diagonalisabilité d'opérateurs sur les polynômes

Résolution.

1. Étude de $f$ : Soit $P = \sum_{k=0}^n a_k X^k \in \mathbb{R}_n[X]$. On a :
   $$f(P) = X^n \sum_{k=0}^n a_k \left(\frac{1}{X}\right)^k = \sum_{k=0}^n a_k X^{n-k}$$
   Comme $n-k \in \{0, \dots, n\}$, $f(P)$ est bien un polynôme de degré au plus $n$. La linéarité de $f$ découle immédiatement de la définition. Calculons $f \circ f(P)$ :
   $$f(f(P)) = X^n (f(P))\left(\frac{1}{X}\right) = X^n \left[ \left(\frac{1}{X}\right)^n P\left(\frac{1}{1/X}\right) \right]$$
   En simplifiant, on obtient :
   $$\boxed{f^2 = \text{Id}_E}$$
   Le polynôme $Q(X) = X^2 - 1$ est donc un polynôme annulateur de $f$. Ce polynôme est scindé sur $\mathbb{R}$ et ses racines $(1, -1)$ sont simples. \boxed{\text{D'après le cours, } f \text{ est diagonalisable.}}

2. Étude de $g = D \circ f$ :
   1. Soit $k \in \{0, \dots, n\}$. On a vu que $f(X^k) = X^{n-k}$. Si $k \in \{0, \dots, n-1\}$, alors $n-k \ge 1$, donc :
      $$g(X^k) = D(X^{n-k}) = (n-k) X^{n-k-1}$$
      Si $k=n$, alors $f(X^n) = 1$, d'où $g(X^n) = D(1) = 0$.
   2. Calculons l'action de $g^2$ sur la base canonique. Pour $k=n$, $g^2(X^n) = g(0) = 0$. Pour $k \in \{0, \dots, n-1\}$, on a :
      $$g^2(X^k) = (n-k) g(X^{n-k-1})$$
      En appliquant la formule précédente avec l'indice $j = n-k-1$ (remarquons que $0 \le j \le n-1$) :
      $$g^2(X^k) = (n-k) (n - (n-k-1)) X^{n - (n-k-1) - 1}$$
      Ce qui se simplifie en :
      $$\boxed{g^2(X^k) = (n-k)(k+1) X^k}$$
      Ainsi, $g^2$ est diagonal dans la base canonique. Ses valeurs propres sont les $\mu_k = (n-k)(k+1)$ pour $k \in \{0, \dots, n\}$. Pour montrer que $g$ est diagonalisable, décomposons $E$ selon les sous-espaces propres de $g^2$. Soit $\mu \in \text{Sp}(g^2)$ et $E_\mu(g^2) = \ker(g^2 - \mu \text{Id})$. Comme $g$ et $g^2$ commutent, chaque $E_\mu(g^2)$ est stable par $g$. Cas 1 : $\mu = 0$. $E_0(g^2) = \text{Vect}(X^n)$ car $\mu_k = 0 \iff k=n$. Comme $g(X^n) = 0$, $X^n$ est un vecteur propre de $g$ pour la valeur propre 0. Cas 2 : $\mu > 0$. L'équation $(n-k)(k+1) = \mu$ est une équation du second degré en $k$. Elle possède au plus deux solutions dans $\{0, \dots, n-1\}$. $\bullet$ Si elle possède une unique solution $k_0$, alors $k_0 = n-k_0-1$ (sommet de la parabole), soit $k_0 = \frac{n-1}{2}$. Dans ce cas, $g(X^{k_0}) = (n-k_0)X^{k_0}$, donc $X^{k_0}$ est vecteur propre de $g$. $\bullet$ Si elle possède deux solutions distinctes $k_1$ et $k_2$, alors $k_1+k_2 = n-1$. Le sous-espace $E_\mu(g^2) = \text{Vect}(X^{k_1}, X^{k_2})$ est stable par $g$. La restriction de $g$ à ce plan a pour matrice :
      $$M_\mu = \begin{pmatrix} 0 & n-k_2$$
      n-k_1 & 0 \end{pmatrix}
      Son polynôme caractéristique est $\chi(X) = X^2 - (n-k_1)(n-k_2)$. Comme $n-k_1 > 0$ et $n-k_2 > 0$, $\chi$ possède deux racines réelles distinctes. La restriction de $g$ à $E_\mu(g^2)$ est donc diagonalisable. L'espace $E$ étant la somme directe des $E_\mu(g^2)$, et $g$ étant diagonalisable sur chaque sous-espace, on conclut : \boxed{\text{L'endomorphisme } g \text{ est diagonalisable.}}