Diagonalisation par blocs et équation de Sylvester

Résolution.

1. Supposons $M$ diagonalisable. Il existe alors un polynôme $P \in \mathbb{K}[X]$, scindé sur $\mathbb{K}$ et à racines simples, tel que $P(M) = 0$. Par un calcul immédiat de produit de matrices triangulaires supérieures par blocs, on remarque que pour tout $k \in \mathbb{N}$ :
   $$M^k = \begin{pmatrix} A^k & \dots$$
   0 & B^k \end{pmatrix}
   Par linéarité, il en découle que pour tout polynôme $Q$ :
   $$Q(M) = \begin{pmatrix} Q(A) & \dots$$
   0 & Q(B) \end{pmatrix}
   Puisque $P(M) = 0$, on en déduit immédiatement que $P(A) = 0$ et $P(B) = 0$. Le polynôme $P$ étant scindé à racines simples et annulant $A$ et $B$, on conclut :
   $$\boxed{A \text{ et } B \text{ sont diagonalisables}}$$

2. 1. Cherchons une condition pour que $M$ soit semblable à $D = \text{diag}(A, B)$. On considère une matrice de passage de la forme $P = \begin{pmatrix} I_n & X$
      0 & I_p \end{pmatrix}. On vérifie aisément que $P$ est inversible et que $P^{-1} = \begin{pmatrix} I_n & -X$
      0 & I_p \end{pmatrix}. Calculons le produit $P \begin{pmatrix} A & 0$
      0 & B \end{pmatrix} P^{-1} :
      $$P \begin{pmatrix} A & 0$$
      0 & B \end{pmatrix} = \begin{pmatrix} I_n & X
      0 & I_p \end{pmatrix} \begin{pmatrix} A & 0
      0 & B \end{pmatrix} = \begin{pmatrix} A & XB
      0 & B \end{pmatrix}
      Puis :
      $$\begin{pmatrix} A & XB$$
      0 & B \end{pmatrix} \begin{pmatrix} I_n & -X
      0 & I_p \end{pmatrix} = \begin{pmatrix} A & -AX+XB
      0 & B \end{pmatrix}
      Ainsi, $M$ est semblable à $\text{diag}(A, B)$ via $P$ si et seulement si $C = -AX + XB$, ce qui équivaut à $A(-X) - (-X)B = C$. En posant $Y = -X$, on voit que la condition de similitude est équivalente à :
      $$\boxed{\exists Y \in \mathcal{M}_{n, p}(\mathbb{K}), \ AY - YB = C}$$

   2. Sens réciproque : Si une telle matrice $X$ existe, d'après la question précédente, $M$ est semblable à $\text{diag}(A, B)$. Comme $A$ et $B$ sont diagonalisables, il existe $Q_1, Q_2$ inversibles telles que $Q_1 A Q_1^{-1}$ et $Q_2 B Q_2^{-1}$ soient diagonales. Alors $\text{diag}(Q_1, Q_2) \text{diag}(A, B) \text{diag}(Q_1, Q_2)^{-1}$ est diagonale, donc $M$ est diagonalisable.

      Sens direct : Supposons $M$ diagonalisable. D'après (1), $A$ et $B$ le sont. Quitte à changer de base pour $A$ et $B$ (ce qui revient à remplacer $C$ par une autre matrice $C'$, l'équation restant de même nature), supposons $A = \text{diag}(a_1, \dots, a_n)$ et $B = \text{diag}(b_1, \dots, b_p)$. L'équation $AX - XB = C$ s'écrit terme à terme :

      $$\forall i, j, \ (a_i - b_j) x_{i,j} = c_{i,j}$$
      Si $a_i \neq b_j$, on peut toujours définir $x_{i,j} = \frac{c_{i,j}}{a_i - b_j}$. Si $a_i = b_j = \lambda$, il faut montrer que $c_{i,j} = 0$. Considérons la valeur propre $\lambda$. Comme $M$ est diagonalisable, on doit avoir :
      $$\text{rg}(M - \lambda I) = (n+p) - \dim(\ker(M - \lambda I))$$
      Or pour une matrice diagonalisable, la dimension du sous-espace propre est la multiplicité de $\lambda$ dans le polynôme caractéristique. Ici, $\chi_M = \chi_A \chi_B$, donc $m_M(\lambda) = m_A(\lambda) + m_B(\lambda)$. Ainsi, $\text{rg}(M - \lambda I) = (n - m_A(\lambda)) + (p - m_B(\lambda)) = \text{rg}(A - \lambda I) + \text{rg}(B - \lambda I)$. En examinant la structure de $M - \lambda I = \begin{pmatrix} A - \lambda I & C$
      0 & B - \lambda I \end{pmatrix}, on voit que les lignes correspondant à $a_i = \lambda$ dans $A-\lambda I$ et les colonnes correspondant à $b_j = \lambda$ dans $B-\lambda I$ sont nulles. Pour que le rang global ne soit pas strictement supérieur à la somme des rangs, les coefficients $c_{i,j}$ à l'intersection de ces lignes et colonnes doivent être nuls. On peut donc poser $x_{i,j} = 0$ quand $a_i = b_j$. On a bien construit $X$ tel que $AX - XB = C$.