Dimension d'un espace de matrices nilpotentes

Soit $\mathbb{K}$ un corps de caractéristique différente de $2$ . On considère un sous-espace vectoriel $V$ de $\mathcal{M}_{n}(\mathbb{K})$ tel que tout élément $M \in V$ est une matrice nilpotente.

Démontrer que pour tout couple $(A, B) \in V^2$ , on a $\operatorname{Tr}(AB) = 0$ .
On note $T_{n}^{++}(\mathbb{K})$ $T_{n}^{++} (K)$ le sous-espace des matrices strictement triangulaires supérieures et $T_{n}^{-}(\mathbb{K})$ $T_{n}^{-} (K)$ celui des matrices triangulaires inférieures. Soit $\pi$ $π$ le projecteur sur $T_{n}^{++}(\mathbb{K})$ $T_{n}^{++} (K)$ parallèlement à $T_{n}^{-}(\mathbb{K})$ $T_{n}^{-} (K)$ . On définit les deux sous-espaces suivants :
$V_{1} = \ker\left(\pi_{|V}\right) \text{et} V_{2} = \{ {}^{t}M \mid M \in \pi(V) \}$
1. Montrer que $V_1$ et $V_2$ sont inclus dans le sous-espace $T_{n}^{--}(\mathbb{K})$ des matrices strictement triangulaires inférieures.
2. Établir que pour tout $(M_1, M_2) \in V_1 \times V_2$ , on a $\operatorname{Tr}({}^{t}M_1 M_2) = 0$ .
En déduire que $\dim(V) \leq \frac{n(n-1)}{2}$ .
On considère le sous-espace $V = \{ M_{a,b} \mid (a,b) \in \mathbb{K}^2 \}$ de $\mathcal{M}_3(\mathbb{K})$ défini par : $M_{a,b} = \begin{pmatrix} 0 & a & 0 -b & 0 & a 0 & b & 0 \end{pmatrix}$ Montrer que $V$ est constitué de matrices nilpotentes mais qu'il n'est pas cotrigonalisable.

1.

Pour la question 1, utiliser le fait que la trace d'une matrice nilpotente est nulle et développer $\operatorname{Tr}((A+B)^2)$ .

2.

Pour la question 2(a), remarquer qu'une matrice triangulaire et nilpotente a nécessairement une diagonale nulle.

3.

Pour la question 2(b), utiliser la décomposition $A = \pi(A) + (A - \pi(A))$ et l'orthogonalité de certains types de matrices triangulaires pour la forme trace.

4.

Pour la question 4, calculer le polynôme caractéristique de $M_{a,b}$ . Pour la non-cotrigonalisabilité, tester si le produit de deux matrices de $V$ est systématiquement nilpotent.

Idées clés

•

Lien entre nilpotence et trace : $\operatorname{Tr}(M^k) = 0$ pour tout $k \geq 1$ .

•

Utilisation de la structure d'espace euclidien (ou bilinéaire) sur $\mathcal{M}_n(\mathbb{K})$ via $(X,Y) \mapsto \operatorname{Tr}({}^t X Y)$ .

•

Propriété des matrices triangulaires : $T_n^{--}$ est l'orthogonal de $T_n^{+}$ pour la forme trace.

Résolution.

Soient $A, B \in V$ . Puisque $V$ est un sous-espace vectoriel, $A+B \in V$ , donc $A+B$ est nilpotente. La trace d'une matrice nilpotente est nulle (ses valeurs propres dans une clôture algébrique sont toutes nulles). On a donc : $\operatorname{Tr}(A) = 0, \operatorname{Tr}(B) = 0, \operatorname{Tr}(A+B) = 0$ De même, $(A+B)^2 = A^2 + AB + BA + B^2$ est également dans $V$ ? Non, mais $(A+B)$ est nilpotente, donc $(A+B)^2$ est nilpotente, d'où $\operatorname{Tr}((A+B)^2) = 0$ . Par linéarité de la trace et propriété $\operatorname{Tr}(AB) = \operatorname{Tr}(BA)$ : $\operatorname{Tr}(A^2) + 2\operatorname{Tr}(AB) + \operatorname{Tr}(B^2) = 0$ Comme $A$ et $B$ sont nilpotentes, $A^2$ et $B^2$ le sont aussi, donc leurs traces sont nulles. Il reste : $2\operatorname{Tr}(AB) = 0$ Puisque la caractéristique de $\mathbb{K}$ est différente de $2$ , on en conclut : $\boxed{\forall (A,B) \in V^2, \operatorname{Tr}(AB) = 0}$
1. Soit $M \in V_1 = V \cap T_n^-$ . $M$ est triangulaire inférieure (car $M \in T_n^-$ ) et nilpotente (car $M \in V$ ). Les éléments diagonaux d'une matrice triangulaire sont ses valeurs propres. Pour une matrice nilpotente, la seule valeur propre est $0$ . Ainsi, tous les éléments diagonaux de $M$ sont nuls, ce qui signifie que $M \in T_n^{--}$ . Soit $N \in V_2$ . Alors $N = {}^t \pi(A)$ avec $A \in V$ . Par définition de $\pi$ , $\pi(A) \in T_n^{++}$ . La transposée d'une matrice strictement triangulaire supérieure est strictement triangulaire inférieure. Donc $N \in T_n^{--}$ . On a bien $\boxed{V_1 \subset T_n^{--} \text{ et } V_2 \subset T_n^{--}}$ .
2. Soit $M_1 \in V_1$ et $M_2 \in V_2$ . Il existe $A \in V$ tel que $M_2 = {}^t \pi(A)$ . $\operatorname{Tr}({}^t M_1 M_2) = \operatorname{Tr}({}^t M_1 {}^t \pi(A)) = \operatorname{Tr}({}^t (\pi(A) M_1)) = \operatorname{Tr}(\pi(A) M_1)$ Décomposons $A$ selon la somme directe $\mathcal{M}_n(\mathbb{K}) = T_n^{++} \oplus T_n^{-}$ : $A = \pi(A) + R \text{avec } R \in T_n^{-}$ D'après la question 1, $\operatorname{Tr}(A M_1) = 0$ car $A, M_1 \in V$ . Donc : $\operatorname{Tr}(\pi(A) M_1) + \operatorname{Tr}(R M_1) = 0$ Or $R \in T_n^{-}$ (triangulaire inférieure) et $M_1 \in V_1 \subset T_n^{--}$ (strictement triangulaire inférieure). Le produit de deux matrices triangulaires inférieures dont l'une est stricte est une matrice strictement triangulaire inférieure. Sa trace est donc nulle : $\operatorname{Tr}(R M_1) = 0$ . On en déduit $\operatorname{Tr}(\pi(A) M_1) = 0$ , et finalement : $\boxed{\operatorname{Tr}({}^t M_1 M_2) = 0}$
Considérons l'espace $T_n^{--}$ muni de la forme bilinéaire symétrique non dégénérée $\langle X, Y \rangle = \operatorname{Tr}({}^t X Y)$ . La question 2(b) montre que $V_1$ et $V_2$ sont deux sous-espaces de $T_n^{--}$ orthogonaux entre eux pour cette forme. Ainsi, $V_2 \subset V_1^\perp \cap T_n^{--}$ . D'après le théorème du rang appliqué à $\pi_{|V}$ : $\dim(V) = \dim(\ker \pi_{|V}) + \dim(\operatorname{im} \pi_{|V}) = \dim(V_1) + \dim(V_2)$ Comme $V_1$ et $V_2$ sont en dualité (orthogonaux) dans $T_n^{--}$ , on a : $\dim(V_1) + \dim(V_2) \leq \dim(T_n^{--})$ Sachant que $\dim(T_n^{--}) = \frac{n(n-1)}{2}$ , on obtient : $\boxed{\dim(V) \leq \frac{n(n-1)}{2}}$
Calculons le polynôme caractéristique de $M_{a,b}$ : $\chi_{M_{a,b}}(x) = \begin{vmatrix} x & -a & 0 b & x & -a 0 & -b & x \end{vmatrix} = x(x^2 - ab) + b(-ax) = x^3 - abx + abx = x^3$ Le polynôme caractéristique est $X^3$ , donc par Cayley-Hamilton, $M_{a,b}^3 = 0$ . Toutes les matrices de $V$ sont nilpotentes. Si $V$ était cotrigonalisable, il existerait une base dans laquelle toutes les matrices de $V$ sont strictement triangulaires supérieures. Dans ce cas, le produit de n'importe quels éléments de $V$ serait encore une matrice nilpotente. Calculons le produit $M_{1,0} M_{0,1}$ : $M_{1,0} = \begin{pmatrix} 0 & 1 & 0 0 & 0 & 1 0 & 0 & 0 \end{pmatrix}, M_{0,1} = \begin{pmatrix} 0 & 0 & 0 -1 & 0 & 0 0 & 1 & 0 \end{pmatrix}$ $M_{1,0} M_{0,1} = \begin{pmatrix} -1 & 0 & 0 0 & 1 & 0 0 & 0 & 0 \end{pmatrix}$ Cette matrice est diagonale non nulle, elle n'est pas nilpotente (ses valeurs propres sont $-1, 1, 0$ ). Conclusion : $V$ n'est pas cotrigonalisable.

Une erreur classique est de penser que tout sous-espace de matrices nilpotentes est cotrigonalisable. C'est vrai si le sous-espace est une algèbre (ou une algèbre de Lie), d'après le théorème d'Engel, mais ce n'est pas automatique pour un simple sous-espace vectoriel, comme le montre le contre-exemple de la question 4.