Diagonalisabilité de matrices triangulaires par blocs

Résolution.

1. 1. Cherchons une matrice $P = \begin{pmatrix} I_n & X$
      0 & I_n \end{pmatrix}, dont l'inverse est $P^{-1} = \begin{pmatrix} I_n & -X$
      0 & I_n \end{pmatrix}. Calculons le produit $P \begin{pmatrix} A & 0$
      0 & 3A \end{pmatrix} et comparons-le à $M P$ :
      $$\begin{pmatrix} I & X$$
      0 & I \end{pmatrix} \begin{pmatrix} A & 0
      0 & 3A \end{pmatrix} = \begin{pmatrix} A & 3XA
      0 & 3A \end{pmatrix}
      $$\begin{pmatrix} A & 2A$$
      0 & 3A \end{pmatrix} \begin{pmatrix} I & X
      0 & I \end{pmatrix} = \begin{pmatrix} A & AX + 2A
      0 & 3A \end{pmatrix}
      L'égalité $P \text{diag}(A, 3A) = M P$ est réalisée si $3XA = AX + 2A$. En choisissant $\boxed{X = I_n}$, l'égalité devient $3A = A + 2A$, ce qui est vrai. Ainsi, $M$ est semblable à $\text{diag}(A, 3A)$.

   2. Puisque deux matrices semblables ont les mêmes propriétés de réduction : $M$ est diagonalisable si et seulement si $\text{diag}(A, 3A)$ l'est. Si $A$ est diagonalisable, il existe $Q$ telle que $Q^{-1}AQ = D$ (diagonale). Alors $\text{diag}(Q, Q)^{-1} \text{diag}(A, 3A) \text{diag}(Q, Q) = \text{diag}(D, 3D)$ qui est diagonale. Réciproquement, si $\text{diag}(A, 3A)$ est diagonalisable, il existe un polynôme $P$ scindé à racines simples tel que $P(\text{diag}(A, 3A)) = 0$. Comme $P(\text{diag}(A, 3A)) = \text{diag}(P(A), P(3A))$, on en déduit $P(A) = 0$. \boxed{\text{$A$ est donc diagonalisable.}}

2. 1. Supposons $M$ diagonalisable. Il existe un polynôme $P \in \mathbb{C}[X]$ scindé à racines simples tel que $P(M) = 0$. Par un calcul par blocs immédiat :
      $$P(M) = \begin{pmatrix} P(A) & \ast$$
      0 & P(B) \end{pmatrix} = \begin{pmatrix} 0 & 0
      0 & 0 \end{pmatrix}
      On en déduit que $P(A) = 0$ et $P(B) = 0$. \boxed{\text{Comme $P$ est scindé à racines simples, $A$ et $B$ sont diagonalisables.}}

   2. Condition suffisante : Si $C = UB - AU$, posons $P = \begin{pmatrix} I & U$
      0 & I \end{pmatrix}. On a :
      $$P \begin{pmatrix} A & 0$$
      0 & B \end{pmatrix} P^{-1} = \begin{pmatrix} I & U
      0 & I \end{pmatrix} \begin{pmatrix} A & 0
      0 & B \end{pmatrix} \begin{pmatrix} I & -U
      0 & I \end{pmatrix} = \begin{pmatrix} A & -AU+UB
      0 & B \end{pmatrix} = M
      Si $A$ et $B$ sont diagonalisables, alors $\text{diag}(A, B)$ l'est, et par similitude, $M$ l'est aussi.

      Condition nécessaire : Supposons $M$ diagonalisable. Soit $(\lambda_1, \dots, \lambda_p)$ les valeurs propres distinctes de $M$. L'espace $\mathbb{C}^{2n}$ est la somme directe des sous-espaces propres $E_{\lambda_i}(M)$. Soit $f$ l'endomorphisme associé à $M$ dans la base canonique $(e_1, \dots, e_{2n})$. Soit $F = \text{Vect}(e_1, \dots, e_n)$. $F$ est stable par $f$ et la restriction de $f$ à $F$ a pour matrice $A$. L'endomorphisme induit par $f$ sur le quotient $\mathbb{C}^{2n}/F$ a pour matrice $B$. Comme $f$ est diagonalisable, il existe un supplémentaire $G$ de $F$ dans $\mathbb{C}^{2n}$ stable par $f$. Soit $Q$ la matrice de passage vers une base adaptée à $\mathbb{C}^{2n} = F \oplus G$. $Q$ est de la forme $\begin{pmatrix} I & U$
      0 & I \end{pmatrix} (quitte à changer de base dans $G$). La stabilité de $G$ impose que $M$ soit semblable à $\text{diag}(A, B)$ via cette matrice, ce qui mène à $C = UB - AU$.