Diagonalisabilité d'une matrice triangulaire par blocs

Résolution.

1. 1. Supposons $M$ diagonalisable. Il existe un polynôme $P \in \mathbb{K}[X]$ scindé à racines simples tel que $P(M) = 0$. Par un calcul de produit par blocs, on remarque que pour tout polynôme $P$ :
      $$P(M) = \begin{pmatrix} P(A) & \dots$$
      0 & P(A) \end{pmatrix}
      Comme $P(M) = 0$, on en déduit que $P(A) = 0$. Le polynôme $P$ est scindé à racines simples et annule $A$, donc :
      $$\boxed{A \text{ est diagonalisable}}$$

   2. Soit $Z = \begin{pmatrix} X$
      Y \end{pmatrix} \in \mathbb{K}^{2n} avec $X, Y \in \mathbb{K}^n$. L'équation $MZ = \lambda Z$ s'écrit :
      $$\begin{pmatrix} A & B$$
      0 & A \end{pmatrix} \begin{pmatrix} X
      Y \end{pmatrix} = \begin{pmatrix} \lambda X
      \lambda Y \end{pmatrix} \iff \begin{cases} AX + BY = \lambda X
      AY = \lambda Y \end{cases}
      Ce qui équivaut immédiatement à :
      $$\boxed{ \begin{cases} (A-\lambda I)X = -BY$$
      (A-\lambda I)Y = 0 \end{cases} }

   3. Notons $m(\lambda, A)$ la multiplicité de $\lambda$ dans $\chi_A$. Alors la multiplicité de $\lambda$ dans $\chi_M = \det(XI - M) = \det(XI - A)^2$ est $2 \cdot m(\lambda, A)$. $M$ est diagonalisable si et seulement si pour toute valeur propre $\lambda$, $\dim E_\lambda(M) = 2 \cdot m(\lambda, A)$. D'après la question précédente, $Z \in E_\lambda(M)$ est déterminé par le choix de $Y \in \ker(A-\lambda I)$, puis de $X$ tel que $(A-\lambda I)X = -BY$. Pour que l'espace des solutions soit de dimension $2 \cdot \dim \ker(A-\lambda I)$, il faut que pour chaque $Y \in \ker(A-\lambda I)$, il existe une solution $X$. Cela impose que $-BY$ soit dans l'image de l'endomorphisme $(A-\lambda I)$. Ainsi :
      $$\boxed{ B(\ker(A-\lambda I)) \subset \text{Im}(A-\lambda I) }$$

2. Cas où $AB=BA$. Si $A$ est diagonalisable et $B=0$, alors $M = \begin{pmatrix} A & 0$
   0 & A \end{pmatrix} est clairement diagonalisable. Réciproquement, supposons $M$ diagonalisable. Alors $A$ est diagonalisable (Q1). Comme $AB=BA$, $B$ stabilise les sous-espaces propres de $A$. Soit $\lambda \in \text{Sp}(A)$, on a $B(\ker(A-\lambda I)) \subset \ker(A-\lambda I)$. D'après 1(c), on a aussi $B(\ker(A-\lambda I)) \subset \text{Im}(A-\lambda I)$. Or, $A$ étant diagonalisable, on a la somme directe : $\mathbb{K}^n = \ker(A-\lambda I) \oplus \text{Im}(A-\lambda I)$. L'intersection de ces deux espaces est $\{0\}$, donc $B(\ker(A-\lambda I)) = \{0\}$. Ceci étant vrai pour tout $\lambda \in \text{Sp}(A)$ et $A$ étant diagonalisable (la somme des espaces propres est $\mathbb{K}^n$), on en conclut que $B=0$.
   $$\boxed{ M \text{ est diag } \iff A \text{ est diag et } B=0 }$$

3. Cas général. $(\Leftarrow)$ Supposons $A$ diagonalisable et $B = AC - CA$. Posons $P = \begin{pmatrix} I & C$
   0 & I \end{pmatrix}. Cette matrice est inversible d'inverse $P^{-1} = \begin{pmatrix} I & -C$
   0 & I \end{pmatrix}. Effectuons le changement de base :
   $$P^{-1} M P = \begin{pmatrix} I & -C$$
   0 & I \end{pmatrix} \begin{pmatrix} A & B
   0 & A \end{pmatrix} \begin{pmatrix} I & C
   0 & I \end{pmatrix} = \begin{pmatrix} A & AC+B-CA
   0 & A \end{pmatrix}
   Comme $B = CA - AC$ (quitte à changer $C$ en $-C$), on obtient :
   $$P^{-1} M P = \begin{pmatrix} A & 0$$
   0 & A \end{pmatrix}
   Puisque $A$ est diagonalisable, la matrice $\text{diag}(A, A)$ l'est aussi, donc $M$ est diagonalisable.

   $(\Rightarrow)$ Si $M$ est diagonalisable, alors $A$ l'est. La condition $B(\ker(A-\lambda I)) \subset \text{Im}(A-\lambda I)$ pour tout $\lambda$ équivaut précisément à l'existence d'une solution à l'équation $B = AC - CA$ (ceci est un résultat classique sur l'image de l'application $C \mapsto [A, C]$ pour $A$ diagonalisable). Conclusion :

   $$\boxed{ M \text{ est diag } \iff A \text{ est diag et } \exists C, B = AC - CA }$$