Diagonalisation d'une matrice triangulaire par blocs

Résolution.

1. Procédons par double implication. Sens direct ($\implies$) : Supposons que $M$ soit diagonalisable. Il existe alors un polynôme $P \in \mathbb{K}[X]$, scindé à racines simples sur $\mathbb{K}$, tel que $P(M) = 0$. Par un calcul par blocs immédiat, on remarque que pour tout $k \in \mathbb{N}$, $M^k = \begin{pmatrix} A^k & \dots$
   0 & 0 \end{pmatrix} pour $k \geq 1$. Ainsi, le bloc en haut à gauche de $P(M)$ est $P(A)$, à l'exception possible du terme constant $P(0) I_n$. Cependant, comme $M$ possède au moins une ligne nulle (puisque $p \geq 1$), $M$ n'est pas inversible. L'une de ses valeurs propres est donc $0$. Comme $P$ annule $M$, $0$ est racine de $P$, d'où $P(0) = 0$. On en déduit que le bloc en haut à gauche de $P(M)$ est exactement $P(A)$. L'égalité $P(M) = 0$ entraîne donc $P(A) = 0$. Comme $P$ est scindé à racines simples, on conclut que :
   $$\boxed{A \text{ est diagonalisable}}$$

   Étudions maintenant la condition sur $B$. Puisque $P(0)=0$, on peut écrire $P(X) = X R(X)$ avec $R \in \mathbb{K}[X]$. Comme $0$ est une racine simple de $P$, on a $R(0) = P'(0) \neq 0$. Le calcul des puissances de $M$ donne $M^k = \begin{pmatrix} A^k & A^{k-1}B$
   0 & 0 \end{pmatrix} pour tout $k \geq 1$. Par linéarité, le bloc supérieur droit de $P(M)$ est :

   $$\sum_{k=1}^d a_k A^{k-1} B = R(A)B$$
   L'égalité $P(M)=0$ impose donc $R(A)B = 0$, ce qui signifie que $\operatorname{Im}(B) \subset \ker(R(A))$. Puisque $A$ est diagonalisable, l'espace $E = \mathbb{K}^n$ se décompose en $E = \ker(A) \oplus \operatorname{Im}(A)$. Sur $\operatorname{Im}(A)$, $A$ induit un automorphisme dont les valeurs propres $\lambda$ sont les racines non nulles de $P$. Comme $R(\lambda) = P(\lambda)/\lambda = 0$, $R(A)$ est nul sur $\operatorname{Im}(A)$. Sur $\ker(A)$, $A$ est nulle, donc $R(A)$ agit comme l'homothétie $R(0) \operatorname{Id}$. Comme $R(0) \neq 0$, $R(A)$ est injectif sur $\ker(A)$. On en déduit que $\ker(R(A)) = \operatorname{Im}(A)$. L'inclusion $\operatorname{Im}(B) \subset \ker(R(A))$ devient :
   $$\boxed{\operatorname{Im}(B) \subset \operatorname{Im}(A)}$$

   Sens réciproque ($\impliedby$) : Supposons que $A$ soit diagonalisable et que $\operatorname{Im}(B) \subset \operatorname{Im}(A)$. La condition d'inclusion des images assure l'existence d'une matrice $X \in \mathcal{M}_{n,p}(\mathbb{K})$ telle que $AX = -B$. Considérons la matrice de passage par blocs $Q = \begin{pmatrix} I_n & X$
   0 & I_p \end{pmatrix}. Elle est inversible d'inverse $Q^{-1} = \begin{pmatrix} I_n & -X$
   0 & I_p \end{pmatrix}. Effectuons le changement de base :

   $$Q^{-1} M Q = \begin{pmatrix} I_n & -X$$
   0 & I_p \end{pmatrix} \begin{pmatrix} A & B
   0 & 0 \end{pmatrix} \begin{pmatrix} I_n & X
   0 & I_p \end{pmatrix}
   $$Q^{-1} M Q = \begin{pmatrix} A & AX+B$$
   0 & 0 \end{pmatrix} = \begin{pmatrix} A & 0
   0 & 0 \end{pmatrix}
   La matrice $M$ est donc semblable à la matrice diagonale par blocs $\operatorname{diag}(A, 0)$. Puisque $A$ est diagonalisable, il existe $S$ inversible telle que $S^{-1}AS = D$ (diagonale). Alors $\operatorname{diag}(S^{-1}, I_p) \operatorname{diag}(A, 0) \operatorname{diag}(S, I_p) = \operatorname{diag}(D, 0)$ est diagonale.
   $$\boxed{M \text{ est diagonalisable}}$$

2. Dans ce cas particulier, nous avons la structure de la question 1 avec la matrice « $A$ » nulle. D'après le critère établi précédemment, $M = \begin{pmatrix} 0_n & A$
   0_n & 0_n \end{pmatrix} est diagonalisable si, et seulement si :
   1. $0_n$ est diagonalisable (ce qui est toujours vrai).
   2. $\operatorname{Im}(A) \subset \operatorname{Im}(0_n) = \{0\}$.
   L'inclusion $\operatorname{Im}(A) \subset \{0\}$ équivaut à $A = 0$. Or, l'énoncé précise que $A$ est une matrice non nulle.
   $$\boxed{M \text{ n'est pas diagonalisable}}$$

   Remarque : On pouvait aussi observer que $M \neq 0$ et $M^2 = 0$. Le polynôme $X^2$ annule $M$. Le polynôme minimal de $M$ est donc $X^2$, car $M \neq 0$. Ce polynôme n'étant pas à racines simples, $M$ n'est pas diagonalisable.