Diagonalisation de matrices par blocs triangulaires

Résolution.

1. La question 1 est un cas particulier de la question 2, mais traitons-la directement. Si $M$ est diagonalisable, alors $A$ l'est aussi (car $A$ est un bloc diagonal). Supposons $M$ diagonalisable. Il existe un polynôme $P$ scindé à racines simples tel que $P(M)=0$. D'après la question 2.(a), si $C=A$, alors $P(M) = \begin{pmatrix} P(A) & AP'(A)$
   0 & P(A) \end{pmatrix}. On a donc $P(A)=0$ et $AP'(A)=0$. Puisque $P$ est à racines simples, $P'(\lambda) \neq 0$ pour toute valeur propre $\lambda$ de $A$. Ainsi, $P'(A)$ est inversible. L'égalité $AP'(A)=0$ implique alors $A=0$. Réciproquement, si $A=0$, alors $M=0$, qui est diagonalisable.
   $$\boxed{M \text{ est diagonalisable } \iff A = 0}$$

2. 1. Montrons par récurrence que pour tout $k \in \mathbb{N}$, $M^k = \begin{pmatrix} A^k & k A^{k-1} C$
      0 & A^k \end{pmatrix}. C'est vrai pour $k=0$ ($M^0 = I$). Supposons la propriété au rang $k$ :
      $$M^{k+1} = \begin{pmatrix} A^k & k A^{k-1} C$$
      0 & A^k \end{pmatrix} \begin{pmatrix} A & C
      0 & A \end{pmatrix} = \begin{pmatrix} A^{k+1} & A^k C + k A^{k-1} C A
      0 & A^{k+1} \end{pmatrix}
      Comme $AC=CA$, on a $A^{k-1} C A = A^k C$, d'où $M^{k+1} = \begin{pmatrix} A^{k+1} & (k+1) A^k C$
      0 & A^{k+1} \end{pmatrix}. Par linéarité, pour tout $P \in \mathbb{C}[X]$ :
      $$\boxed{P(M) = \begin{pmatrix} P(A) & P'(A)C$$
      0 & P(A) \end{pmatrix}}
   2. $M$ est diagonalisable si et seulement s'il existe $P$ scindé à racines simples tel que $P(M)=0$. Ceci équivaut à $P(A)=0$ et $P'(A)C=0$. La condition $P(A)=0$ avec $P$ à racines simples signifie que $A$ est diagonalisable. Si $A$ est diagonalisable, ses valeurs propres $\lambda_1, \dots, \lambda_p$ sont les racines de son polynôme minimal $P$. On a vu que $P'(A)$ est inversible car ses valeurs propres $P'(\lambda_i)$ sont non nulles. L'équation $P'(A)C=0$ devient alors $C=0$.
      $$\boxed{M \text{ est diagonalisable } \iff A \text{ est diagonalisable et } C=0}$$

3. Analysons le cas général. Le polynôme caractéristique de $M$ est $\chi_M(X) = \det(XI - A)^2 = \chi_A(X)^2$. Ainsi, $\text{Sp}(M) = \text{Sp}(A)$. $M$ est diagonalisable sur $\mathbb{C}$ si et seulement si pour toute valeur propre $\lambda \in \text{Sp}(A)$ :
   $$\dim \text{Ker}(M - \lambda I_{2n}) = \text{mult}_M(\lambda) = 2 \text{mult}_A(\lambda)$$
   Soit $\lambda \in \text{Sp}(A)$. On cherche $(X, Y) \in (\mathbb{C}^n)^2$ tels que :
   $$\begin{pmatrix} A - \lambda I & C$$
   0 & A - \lambda I \end{pmatrix} \begin{pmatrix} X
   Y \end{pmatrix} = 0 \iff \begin{cases} (A - \lambda I)Y = 0   (1)
   (A - \lambda I)X = -CY   (2) \end{cases}
   Soit $d_\lambda = \dim \text{Ker}(A - \lambda I)$. Pour que $M$ soit diagonalisable, il faut déjà que $A$ le soit, donc $d_\lambda = \text{mult}_A(\lambda)$. On doit alors avoir $\dim \text{Ker}(M - \lambda I_{2n}) = 2d_\lambda$. L'équation (1) impose $Y \in \text{Ker}(A - \lambda I)$. Pour chaque tel $Y$, l'équation (2) possède des solutions en $X$ si et seulement si $CY \in \text{Im}(A - \lambda I)$. Si cette condition est vérifiée pour tout $Y \in \text{Ker}(A - \lambda I)$, alors pour chaque $Y$, l'ensemble des $X$ solutions est un sous-espace affine de dimension $d_\lambda$. La dimension de $\text{Ker}(M - \lambda I_{2n})$ est alors $\dim \text{Ker}(A - \lambda I) + \dim \{ Y \in \text{Ker}(A - \lambda I) \mid CY \in \text{Im}(A - \lambda I) \}$. Pour obtenir $2d_\lambda$, il faut et suffit que :
   $$\forall Y \in \text{Ker}(A - \lambda I),   CY \in \text{Im}(A - \lambda I)$$
   $$\boxed{M \text{ diag } \iff A \text{ diag et } \forall \lambda \in \text{Sp}(A), C(\text{Ker}(A - \lambda I)) \subset \text{Im}(A - \lambda I)}$$