Similitude des matrices de taille 2

Résolution.

1. L'implication directe ($\Rightarrow$) est un résultat de cours : deux matrices semblables ont le même polynôme caractéristique. Montrons l'implication réciproque ($\Leftarrow$). Soient $A, B \in \mathcal{M}_2(\mathbb{K})$ non scalaires telles que $\chi_A = \chi_B = P$. D'après le théorème de Cayley-Hamilton, $P$ est un polynôme annulateur de $A$ et de $B$. Plaçons-nous sur la clôture algébrique $\overline{\mathbb{K}}$ (ou supposons $\mathbb{K}=\mathbb{C}$). $P$ est de degré 2, notons $\lambda$ et $\mu$ ses racines. Premier cas : $P$ possède deux racines distinctes $\lambda \neq \mu$. Dans ce cas, le polynôme caractéristique est scindé à racines simples sur $\overline{\mathbb{K}}$. Par conséquent, $A$ et $B$ sont toutes deux semblables à la matrice diagonale :
   $$D = \begin{pmatrix} \lambda & 0$$
   0 & \mu \end{pmatrix}
   Par transitivité de la relation de similitude, $A$ et $B$ sont semblables dans $\mathcal{M}_2(\overline{\mathbb{K}})$. Un résultat classique (ou l'utilisation des invariants de similitude) assure que si deux matrices à coefficients dans $\mathbb{K}$ sont semblables dans $\mathcal{M}_n(\overline{\mathbb{K}})$, elles le sont dans $\mathcal{M}_n(\mathbb{K})$. Second cas : $P$ possède une racine double $\lambda$. Alors $P = (X - \lambda)^2$. Puisque $A$ n'est pas une matrice scalaire, on sait que $A \neq \lambda I_2$. L'endomorphisme $u$ associé à $A$ vérifie $(u - \lambda \text{id})^2 = 0$ par Cayley-Hamilton. Puisque $u - \lambda \text{id} \neq 0$, il existe un vecteur $v \in \mathbb{K}^2$ tel que $(u - \lambda \text{id})(v) \neq 0$. Posons $e_1 = (u - \lambda \text{id})(v)$ et $e_2 = v$. Vérifions que $(e_1, e_2)$ est une famille libre : Si $ae_1 + be_2 = 0$, en appliquant $(u - \lambda \text{id})$, on obtient $b(u - \lambda \text{id})(v) = 0$, d'où $b = 0$, puis $ae_1 = 0$ donc $a = 0$. Dans la base $(e_1, e_2)$, la matrice de $u$ est :
   $$T = \begin{pmatrix} \lambda & 1$$
   0 & \lambda \end{pmatrix}
   En effet, $u(e_1) = (u-\lambda \text{id} + \lambda \text{id})(e_1) = 0 + \lambda e_1$ et $u(e_2) = (u-\lambda \text{id})(v) + \lambda v = e_1 + \lambda e_2$. Ainsi, toute matrice non scalaire ayant $\lambda$ pour racine double est semblable à $T$. Par transitivité, $A$ et $B$ sont semblables. On en conclut que :
   $$\boxed{ A \sim B \iff \chi_A = \chi_B }$$

2. La généralisation est fausse pour $n \ge 3$. Considérons les matrices $A$ et $B$ de $\mathcal{M}_3(\mathbb{K})$ suivantes :
   $$A = \begin{pmatrix} 0 & 1 & 0$$
   0 & 0 & 0
   0 & 0 & 0 \end{pmatrix}   \text{et}   B = \begin{pmatrix} 0 & 1 & 0
   0 & 0 & 1
   0 & 0 & 0 \end{pmatrix}
   Ces deux matrices ne sont pas scalaires. Elles ont le même polynôme caractéristique :
   $$\boxed{ \chi_A(X) = \chi_B(X) = X^3 }$$
   Cependant, elles ne sont pas semblables car leurs rangs sont différents :
   $$\boxed{ \text{rg}(A) = 1   \text{et}   \text{rg}(B) = 2 }$$
   Deux matrices semblables ayant nécessairement le même rang, l'équivalence ne tient plus dès $n=3$.