Diagonalisabilité d'une matrice triangulaire par blocs

Résolution.

1. Calculons les premières puissances de $B$ pour dégager une structure. Par un calcul par blocs, on remarque que pour tout $k \in \mathbb{N}^*$ :
   $$B^k = \begin{pmatrix} A^k & 0$$
   \sum_{j=1}^{k} A^j & I_n \end{pmatrix}
   Soit $P = \sum a_k X^k$ un polynôme annulateur de $A$. On a :
   $$P(B) = \begin{pmatrix} P(A) & 0$$
   \dots & P(1)I_n \end{pmatrix} = \begin{pmatrix} 0 & 0
   \dots & P(1)I_n \end{pmatrix}
   Considérons le polynôme $Q(X) = (X-1)P(X)$. On a alors :
   $$Q(B) = (B - I_{2n}) P(B) = \begin{pmatrix} A - I_n & 0$$
   A & 0 \end{pmatrix} \begin{pmatrix} 0 & 0
   \dots & P(1)I_n \end{pmatrix}
   Le produit matriciel donne immédiatement la matrice nulle.
   $$\boxed{ Q(X) = (X-1)P(X) \text{ est un polynôme annulateur de } B }$$

2. Supposons $B$ diagonalizable. Il existe donc un polynôme $Q \in \mathbb{K}[X]$ scindé à racines simples tel que $Q(B) = 0$. Or, d'après la structure triangulaire par blocs, on a :
   $$Q(B) = \begin{pmatrix} Q(A) & 0$$
   \dots & Q(1)I_n \end{pmatrix}
   L'égalité $Q(B) = 0$ implique donc $Q(A) = 0$. Comme $Q$ est un polynôme annulateur de $A$ scindé à racines simples, on en déduit que :
   $$\boxed{ A \text{ est diagonalizable} }$$

3. Supposons $A$ diagonalizable et $1 \notin \text{Sp}(A)$. Montrons que $B$ est semblable à la matrice $\text{diag}(A, I_n)$. Cherchons une matrice de passage de la forme $P = \begin{pmatrix} I_n & 0$
   X & I_n \end{pmatrix}. Son inverse est $P^{-1} = \begin{pmatrix} I_n & 0$
   -X & I_n \end{pmatrix}. Le produit $P B P^{-1}$ donne :
   $$\begin{pmatrix} I_n & 0$$
   X & I_n \end{pmatrix} \begin{pmatrix} A & 0
   A & I_n \end{pmatrix} \begin{pmatrix} I_n & 0
   -X & I_n \end{pmatrix} = \begin{pmatrix} A & 0
   XA+A & I_n \end{pmatrix} \begin{pmatrix} I_n & 0
   -X & I_n \end{pmatrix} = \begin{pmatrix} A & 0
   XA+A-X & I_n \end{pmatrix}
   On souhaite que $XA - X + A = 0$, soit $X(A - I_n) = -A$. Comme $1 \notin \text{Sp}(A)$, la matrice $(A - I_n)$ est inversible. On peut donc choisir :
   $$X = -A(A - I_n)^{-1}$$
   Ainsi, $B$ est semblable à $\begin{pmatrix} A & 0$
   0 & I_n \end{pmatrix}. Puisque $A$ est diagonalizable et $I_n$ l'est aussi, la matrice diagonale par blocs est diagonalizable.
   $$\boxed{ B \text{ est donc diagonalizable} }$$

4. Supposons que $1 \in \text{Sp}(A)$. Étudions le sous-espace propre de $B$ associé à la valeur propre $1$. Soit $Z = \begin{pmatrix} X$
   Y \end{pmatrix} \in \mathbb{K}^{2n}.
   $$BZ = Z \iff \begin{pmatrix} A & 0$$
   A & I_n \end{pmatrix} \begin{pmatrix} X
   Y \end{pmatrix} = \begin{pmatrix} X
   Y \end{pmatrix} \iff \begin{cases} AX = X
   AX + Y = Y \end{cases} \iff \begin{cases} AX = X
   AX = 0 \end{cases}
   Cela impose $X = AX = 0$. Donc $X=0$ et $Y$ est quelconque dans $\mathbb{K}^n$. Ainsi, $E_1(B) = \{0\} \times \mathbb{K}^n$, d'où $\dim E_1(B) = n$. D'autre part, le polynôme caractéristique de $B$ est :
   $$\chi_B(X) = \det(XI_{2n} - B) = \det(XI_n - A) \det(XI_n - I_n) = \chi_A(X) (X-1)^n$$
   Si $1$ est valeur propre de $A$ avec une multiplicité $m \ge 1$, alors la multiplicité de la valeur propre $1$ pour $B$ est $m + n$. Pour que $B$ soit diagonalizable, il est nécessaire que la dimension du sous-espace propre soit égale à la multiplicité algébrique :
   $$\dim E_1(B) = m + n \implies n = m + n \implies m = 0$$
   Ceci contredit $m \ge 1$.
   $$\boxed{ \text{Si } 1 \in \text{Sp}(A), \text{ alors } B \text{ n'est pas diagonalizable} }$$