Commutation et puissances de matrices diagonalisables

Résolution.

1. Notons $\lambda_1, \dots, \lambda_p$ les valeurs propres distinctes de $B$ dans $\mathbb{R}$. Puisque $B$ est diagonalisable, l'espace $\mathbb{R}^n$ est la somme directe des sous-espaces propres de $B$ :
   $$\mathbb{R}^n = \bigoplus_{i=1}^p E_{\lambda_i}(B)$$

   Soit $x \in E_{\lambda_i}(B)$. On a $Bx = \lambda_i x$, d'où $B^3 x = \lambda_i^3 x$ par récurrence immédiate. Ceci montre que $E_{\lambda_i}(B) \subset E_{\lambda_i^3}(B^3)$. Considérons la fonction $f : x \mapsto x^3$. Cette fonction est strictement croissante, donc injective sur $\mathbb{R}$. Ainsi, si $\lambda_i \neq \lambda_j$, alors $\lambda_i^3 \neq \lambda_j^3$. Les valeurs propres de $B^3$ sont exactement les cubes des valeurs propres de $B$. Les sous-espaces propres de $B^3$ correspondent donc exactement à ceux de $B$ :

   $$\forall i \in \{1, \dots, p\},   \boxed{E_{\lambda_i^3}(B^3) = E_{\lambda_i}(B)}$$

   L'hypothèse $AB^3 = B^3A$ implique que l'endomorphisme associé à $A$ stabilise tous les sous-espaces propres de $B^3$. D'après l'égalité précédente, $A$ stabilise chaque $E_{\lambda_i}(B)$. Soit $x \in E_{\lambda_i}(B)$. Comme $Ax \in E_{\lambda_i}(B)$, on a :

   $$B(Ax) = \lambda_i (Ax)   \text{et}   A(Bx) = A(\lambda_i x) = \lambda_i (Ax)$$

   On en déduit que $AB$ et $BA$ coïncident sur chaque sous-espace propre de $B$. Par somme directe, ces endomorphismes sont égaux sur $\mathbb{R}^n$ tout entier.

   $$\boxed{AB = BA}$$

2. 1. Le raisonnement précédent repose sur l'injectivité de $x \mapsto x^k$ sur le spectre de $B$. Cas 1 : $k$ est impair. La fonction $x \mapsto x^k$ est injective sur $\mathbb{R}$. Le résultat est donc toujours vrai pour $B$ diagonalisable sur $\mathbb{R}$. Cas 2 : $k$ est pair. La fonction $x \mapsto x^k$ n'est injective que sur $\mathbb{R}^+$ ou $\mathbb{R}^-$. La condition nécessaire et suffisante pour que l'implication soit vraie est que :
      $$\boxed{\forall (\lambda, \mu) \in \text{Sp}(B)^2,   \lambda^k = \mu^k \implies \lambda = \mu}$$

      Dans le cas d'un exposant pair, cela signifie qu'on ne peut pas avoir à la fois $\lambda$ et $-\lambda$ dans le spectre de $B$ (sauf si $\lambda=0$).

   2. Si $B$ n'est pas diagonalisable, le résultat peut être faux. Prenons par exemple $k=3$ et la matrice nilpotente suivante :
      $$B = \begin{pmatrix} 0 & 1$$
      0 & 0 \end{pmatrix} \implies B^2 = 0   \text{et}   \boxed{B^3 = 0}

      Toute matrice $A \in \mathcal{M}_2(\mathbb{R})$ commute avec $B^3$ puisque $B^3$ est la matrice nulle. Pourtant, si l'on choisit $A = \begin{pmatrix} 1 & 0$
      0 & 0 \end{pmatrix}, un calcul simple montre que :

      $$AB = \begin{pmatrix} 0 & 1$$
      0 & 0 \end{pmatrix}   \text{et}   BA = \begin{pmatrix} 0 & 0
      0 & 0 \end{pmatrix}

      On a bien $AB^3 = B^3A$ mais $AB \neq BA$.