Polynôme caractéristique de AB et BA

Soient $n$ et $p$ deux entiers naturels non nuls. On considère deux matrices $A \in \mathcal{M}_{n, p}(\mathbb{K})$ et $B \in \mathcal{M}_{p, n}(\mathbb{K})$ , où $\mathbb{K}$ est un sous-corps de $\mathbb{C}$ .

Cas des matrices carrées d'ordre $n$ ( $n=p$ $n = p$ ) :
1. On suppose que $A$ est inversible. Montrer que $AB$ et $BA$ sont semblables. En déduire que $\chi_{AB} = \chi_{BA}$ .
2. On ne suppose plus $A$ inversible. En utilisant un argument de densité ou en considérant la matrice $A - \lambda I_n$ , établir que l'égalité $\chi_{AB} = \chi_{BA}$ reste vraie.
3. Variante : Retrouver ce résultat en utilisant le fait que toute matrice de rang $r$ est équivalente à la matrice $J_r = \begin{pmatrix} I_r & 0 0 & 0 \end{pmatrix}$ .
Cas des matrices rectangulaires ( $n \neq p$ $n \neq = p$ ) :
1. On suppose $n < p$ . Montrer que la matrice $BA$ n'est pas inversible.
2. En complétant $A$ et $B$ par des blocs de zéros pour former des matrices carrées de taille $p \times p$ , démontrer la relation générale : $X^p \chi_{AB}(X) = X^n \chi_{BA}(X)$
3. Que peut-on dire des valeurs propres de $AB$ et de $BA$ ?

1.

Pour 1.(a), écrire $BA = A^{-1}(AB)A$ .

2.

Pour 1.(b), utiliser la densité de $GL_n(\mathbb{C})$ dans $\mathcal{M}_n(\mathbb{C})$ et la continuité de l'application $M \mapsto \chi_M$ .

3.

Pour 2.(a), comparer le rang de $BA$ avec $n$ et $p$ en utilisant l'inégalité $rg(BA) \le \min(n,p)$ .

4.

Pour 2.(b), si $n < p$ , poser $A' = \begin{pmatrix} A 0 \end{pmatrix} \in \mathcal{M}_p(\mathbb{K})$ et $B' = \begin{pmatrix} B & 0 \end{pmatrix} \in \mathcal{M}_p(\mathbb{K})$ et appliquer le résultat de la question 1.

Idées clés

•

Similitude des produits lorsque l'un des facteurs est inversible.

•

Prolongement par continuité (argument de densité) pour passer du cas inversible au cas général.

•

Augmentation de la taille des matrices (padding) pour ramener le cas rectangulaire au cas carré.

Résolution.

Cas des matrices carrées ( $n=p$ )
1. Supposons $A \in GL_n(\mathbb{K})$ . On peut écrire : $BA = A^{-1} A B A = A^{-1} (AB) A$ Les matrices $AB$ et $BA$ sont donc semblables. Comme deux matrices semblables ont le même polynôme caractéristique, on en déduit immédiatement : $\boxed{\chi_{AB} = \chi_{BA}}$
2. Si $A$ n'est pas inversible, on considère $\mathbb{K}$ comme un sous-corps de $\mathbb{C}$ . L'ensemble $GL_n(\mathbb{C})$ est dense dans $\mathcal{M}_n(\mathbb{C})$ . Il existe une suite $(A_k)_{k \in \mathbb{N}}$ de matrices inversibles convergeant vers $A$ . D'après la question précédente, pour tout $k$ , $\chi_{A_k B} = \chi_{B A_k}$ . L'application $M \mapsto \chi_M$ est polynomiale en les coefficients de $M$ , donc elle est continue. En passant à la limite quand $k \to +\infty$ : $\lim_{k \to \infty} \chi_{A_k B} = \chi_{AB} \text{et} \lim_{k \to \infty} \chi_{B A_k} = \chi_{BA}$ D'où l'égalité $\chi_{AB} = \chi_{BA}$ pour toute matrice $A$ de $\mathcal{M}_n(\mathbb{K})$ .
3. Méthode avec $J_r$ : Soit $r = rg(A)$ . Il existe $P, Q \in GL_n(\mathbb{K})$ tels que $A = P J_r Q$ . Alors $AB = P J_r Q B$ est semblable à $J_r (QBP)$ par la matrice $P$ . De même, $BA = Q^{-1} (QBP) J_r Q$ est semblable à $(QBP) J_r$ . Soit $C = QBP = \begin{pmatrix} C_{11} & C_{12} C_{21} & C_{22} \end{pmatrix}$ où $C_{11} \in \mathcal{M}_r(\mathbb{K})$ . On calcule les produits par blocs : $J_r C = \begin{pmatrix} I_r & 0 0 & 0 \end{pmatrix} \begin{pmatrix} C_{11} & C_{12} C_{21} & C_{22} \end{pmatrix} = \begin{pmatrix} C_{11} & C_{12} 0 & 0 \end{pmatrix}$ $C J_r = \begin{pmatrix} C_{11} & C_{12} C_{21} & C_{22} \end{pmatrix} \begin{pmatrix} I_r & 0 0 & 0 \end{pmatrix} = \begin{pmatrix} C_{11} & 0 C_{21} & 0 \end{pmatrix}$ Le polynôme caractéristique d'une matrice triangulaire par blocs donne : $\chi_{J_r C}(X) = \chi_{C_{11}}(X) \cdot X^{n-r} \text{et} \chi_{C J_r}(X) = \chi_{C_{11}}(X) \cdot X^{n-r}$ Les polynômes sont égaux, donc $\chi_{AB} = \chi_{BA}$ .
Cas des matrices rectangulaires ( $n \neq p$ )
1. Supposons $n < p$ . La matrice $BA$ est de taille $p \times p$ . D'après la propriété du rang d'un produit, $rg(BA) \le rg(A) \le n$ . Puisque $rg(BA) \le n < p$ , la matrice $BA$ n'est pas de rang maximal. Elle n'est donc pas inversible.
2. Quitte à échanger les rôles de $A$ et $B$ , supposons $n < p$ . On définit $A' \in \mathcal{M}_p(\mathbb{K})$ et $B' \in \mathcal{M}_p(\mathbb{K})$ par complétion avec des zéros : $A' = \begin{pmatrix} A 0_{p-n, p} \end{pmatrix} \text{et} B' = \begin{pmatrix} B & 0_{p, p-n} \end{pmatrix}$ Calculons les produits $A'B'$ et $B'A'$ (qui sont de taille $p \times p$ ) : $A'B' = \begin{pmatrix} A 0 \end{pmatrix} \begin{pmatrix} B & 0 \end{pmatrix} = \begin{pmatrix} AB & 0_{n, p-n} 0_{p-n, n} & 0_{p-n, p-n} \end{pmatrix}$ $B'A' = \begin{pmatrix} B & 0 \end{pmatrix} \begin{pmatrix} A 0 \end{pmatrix} = BA$ D'après la partie 1, $\chi_{A'B'} = \chi_{B'A'}$ . Calculons $\chi_{A'B'}$ par blocs : $\chi_{A'B'}(X) = \det(X I_p - A'B') = \det \begin{pmatrix} XI_n - AB & 0 0 & XI_{p-n} \end{pmatrix} = \chi_{AB}(X) \cdot X^{p-n}$ Comme $\chi_{B'A'} = \chi_{BA}$ , on obtient $\chi_{BA}(X) = X^{p-n} \chi_{AB}(X)$ . En multipliant par $X^n$ des deux côtés, on trouve la formule symétrique : $\boxed{X^p \chi_{AB}(X) = X^n \chi_{BA}(X)}$
3. Les racines non nulles des deux polynômes sont les mêmes avec les mêmes multiplicités. Ainsi, $AB$ et $BA$ ont les mêmes valeurs propres non nulles. Seule la multiplicité de la valeur propre $0$ peut différer (elle diffère exactement de $|p-n|$ ).

Attention : même si $\chi_{AB} = \chi_{BA}$ dans le cas carré, les matrices $AB$ et $BA$ ne sont pas nécessairement semblables si elles ne sont pas inversibles. Par exemple, pour $A = \begin{pmatrix} 0 & 1 0 & 0 \end{pmatrix}$ et $B = \begin{pmatrix} 0 & 0 0 & 0 \end{pmatrix}$ , on a $AB=BA=0$ (semblables), mais pour d'autres choix comme $A = \begin{pmatrix} 0 & 1 0 & 0 \end{pmatrix}$ et $B = \begin{pmatrix} 1 & 0 0 & 0 \end{pmatrix}$ , on a $AB = \begin{pmatrix} 0 & 0 0 & 0 \end{pmatrix}$ et $BA = \begin{pmatrix} 0 & 1 0 & 0 \end{pmatrix}$ . Elles ont le même polynôme $X^2$ mais ne sont pas semblables (rangs différents).