Diagonalisabilité de matrices triangulaires par blocs

Résolution.

1. 1. Montrons par récurrence sur $k \in \mathbb{N}$ que :
      $$\boxed{M^k = \begin{pmatrix} A^k & kBC^{k-1}$$
      0 & C^k \end{pmatrix}}
      (avec la convention $C^{-1} = 0$ pour $k=0$ ou en isolant les premiers termes).

      Initialisation : Pour $k=1$, $M^1 = \begin{pmatrix} A & B$
      0 & C \end{pmatrix} et la formule donne $\begin{pmatrix} A^1 & 1 \cdot B \cdot C^0$
      0 & C^1 \end{pmatrix} = \begin{pmatrix} A & B
      0 & C \end{pmatrix}. L'initialisation est vérifiée.

      Hérédité : Supposons la propriété vraie au rang $k$. On a :

      $$M^{k+1} = M^k \cdot M = \begin{pmatrix} A^k & kBC^{k-1}$$
      0 & C^k \end{pmatrix} \begin{pmatrix} A & B
      0 & C \end{pmatrix} = \begin{pmatrix} A^{k+1} & A^k B + kBC^k
      0 & C^{k+1} \end{pmatrix}

      D'après l'hypothèse $AB=BC$, on montre par une récurrence immédiate que $A^k B = B C^k$. En effet, $A^{k+1}B = A(A^k B) = A(BC^k) = (AB)C^k = (BC)C^k = BC^{k+1}$.

      Ainsi, le bloc supérieur droit de $M^{k+1}$ est :

      $$A^k B + kBC^k = BC^k + kBC^k = (k+1)BC^k$$
      La propriété est donc démontrée par récurrence.

   2. Soit $P = \sum_{k=0}^d a_k X^k \in \mathbb{K}[X]$. Par linéarité :
      $$P(M) = \sum_{k=0}^d a_k M^k = \begin{pmatrix} \sum a_k A^k & \sum a_k k B C^{k-1}$$
      0 & \sum a_k C^k \end{pmatrix}

      On reconnaît dans les blocs diagonaux $P(A)$ et $P(C)$. Le bloc supérieur droit est $\sum_{k=1}^d a_k k B C^{k-1} = B \left( \sum_{k=1}^d k a_k C^{k-1} \right) = B P'(C)$. D'où :

      $$\boxed{P(M) = \begin{pmatrix} P(A) & B P'(C)$$
      0 & P(C) \end{pmatrix}}

   3. Analyse. Supposons $M$ diagonalizable. Il existe un polynôme $P \in \mathbb{K}[X]$ scindé à racines simples tel que $P(M) = 0$. D'après la question précédente, cela implique :
      $$P(A) = 0,   P(C) = 0   \text{et}   B P'(C) = 0$$

      $P(A)=0$ et $P(C)=0$ avec $P$ à racines simples impliquent que $A$ et $C$ sont diagonalisables. Comme $C$ est diagonalizable, ses valeurs propres $\{\lambda_1, \dots, \lambda_p\}$ sont des racines de $P$. Puisque $P$ a des racines simples, pour toute valeur propre $\lambda$ de $C$, on a $P'(\lambda) \neq 0$. Ainsi, $P'(C)$ est une matrice dont les valeurs propres sont toutes non nulles : $P'(C)$ est inversible. La condition $B P'(C) = 0$ entraîne alors $B = 0$.

      Synthèse. Réciproquement, si $B=0$ et si $A$ et $C$ sont diagonalisables, alors $M = \text{diag}(A, C)$ est clairement diagonalizable (par blocs de bases de vecteurs propres).

      Conclusion :

      $$\boxed{M \text{ est diagonalizable } \iff A \text{ et } C \text{ sont diagonalisables et } B = 0}$$

2. Ici $AB=BA$ (cas particulier $A=C$). D'après l'étude précédente :
   $$M \text{ est diagonalizable } \iff A \text{ est diagonalizable et } B = 0$$

   Remarque sur l'hypothèse « $B$ est diagonalizable » : Cette hypothèse ne change pas la CNS. Si $M$ est diagonalizable, alors $B$ doit être nul, et la matrice nulle est bien diagonalizable. Si $B$ est diagonalizable mais non nul (et $A$ diag), alors $M$ n'est pas diagonalizable malgré la commutation. L'hypothèse est donc un simple confort ou un distracteur.