Racine carrée de matrice nilpotente

Résolution.

1. Analyse. Soit $M \in \mathcal{M}_3(\mathbb{K})$ telle que $M^2 = A$. Remarquons que $A^2 = 0$, donc $M^4 = 0$. La matrice $M$ est donc nilpotente. Comme $M \in \mathcal{M}_3(\mathbb{K})$, son indice de nilpotence est inférieur ou égal à 3. Si $M^2 = 0$, alors $A = 0$, ce qui est faux. Donc l'indice de nilpotence de $M$ est exactement 3. De plus, $M$ commute avec son carré, donc $MA = AM$. Notons $M = (m_{i,j})_{1 \le i,j \le 3}$. La condition $MA = AM$ s'écrit :
   $$\begin{pmatrix} m_{1,1} & m_{1,2} & m_{1,3}$$
   m_{2,1} & m_{2,2} & m_{2,3}
   m_{3,1} & m_{3,2} & m_{3,3} \end{pmatrix} \begin{pmatrix} 0 & 0 & 1
   0 & 0 & 0
   0 & 0 & 0 \end{pmatrix} = \begin{pmatrix} 0 & 0 & 1
   0 & 0 & 0
   0 & 0 & 0 \end{pmatrix} \begin{pmatrix} m_{1,1} & m_{1,2} & m_{1,3}
   m_{2,1} & m_{2,2} & m_{2,3}
   m_{3,1} & m_{3,2} & m_{3,3} \end{pmatrix}
   Par calcul par blocs ou par coefficients, on obtient :
   $$\begin{pmatrix} 0 & 0 & m_{1,1}$$
   0 & 0 & m_{2,1}
   0 & 0 & m_{3,1} \end{pmatrix} = \begin{pmatrix} m_{3,1} & m_{3,2} & m_{3,3}
   0 & 0 & 0
   0 & 0 & 0 \end{pmatrix}
   On en déduit les relations suivantes :
   $$m_{3,1} = 0,   m_{3,2} = 0,   m_{2,1} = 0,   \text{et}   m_{1,1} = m_{3,3}$$
   La matrice $M$ est donc de la forme :
   $$M = \begin{pmatrix} m_{1,1} & m_{1,2} & m_{1,3}$$
   0 & m_{2,2} & m_{2,3}
   0 & 0 & m_{1,1} \end{pmatrix}
   Comme $M$ est nilpotente, ses valeurs propres (qui sont ses coefficients diagonaux puisque la matrice est triangulaire supérieure) sont toutes nulles. D'où $m_{1,1} = m_{2,2} = 0$. La matrice $M$ se réduit à :
   $$M = \begin{pmatrix} 0 & a & b$$
   0 & 0 & c
   0 & 0 & 0 \end{pmatrix}
   Synthèse. Calculons le carré d'une telle matrice $M$ :
   $$M^2 = \begin{pmatrix} 0 & a & b$$
   0 & 0 & c
   0 & 0 & 0 \end{pmatrix} \begin{pmatrix} 0 & a & b
   0 & 0 & c
   0 & 0 & 0 \end{pmatrix} = \begin{pmatrix} 0 & 0 & ac
   0 & 0 & 0
   0 & 0 & 0 \end{pmatrix}
   On veut $M^2 = A$, ce qui impose $ac = 1$. Le coefficient $b$ reste quelconque dans $\mathbb{K}$. Ainsi, $a$ doit être non nul, et $c = a^{-1}$. Conclusion. L'ensemble des solutions est :
   $$\boxed{ \mathcal{S} = \left\{ \begin{pmatrix} 0 & a & b$$
   0 & 0 & a^{-1}
   0 & 0 & 0 \end{pmatrix} \mid a \in \mathbb{K}^*, \ b \in \mathbb{K} \right\} }

2. 1. Puisque $B$ est de rang 1, son noyau est de dimension $3-1 = 2$. Comme $B$ est nilpotente de taille 3, on sait que $B^3 = 0$. L'indice de nilpotence de $B$ est soit 2, soit 3. Si l'indice était 3, le rang de $B$ serait au moins 2. Donc l'indice de nilpotence de $B$ est 2, ce qui signifie $B^2 = 0$. Ainsi $\text{Im}(B) \subset \ker(B)$. Soit $e_3 \in \mathbb{K}^3$ tel que $B e_3 \neq 0$. Posons $e_1 = B e_3$. Comme $B^2 = 0$, on a $B e_1 = 0$, donc $e_1 \in \ker(B)$. Puisque $\dim \ker(B) = 2$, on peut compléter $e_1$ par un vecteur $e_2$ tel que $(e_1, e_2)$ soit une base de $\ker(B)$. La famille $\mathcal{B} = (e_1, e_2, e_3)$ est une base car $e_3 \notin \ker(B)$ et $(e_1, e_2)$ base de $\ker(B)$. Dans cette base, l'endomorphisme associé à $B$ a pour matrice :
      $$\text{Mat}_{\mathcal{B}}(u_B) = \begin{pmatrix} 0 & 0 & 1$$
      0 & 0 & 0
      0 & 0 & 0 \end{pmatrix} = A
      \boxed{ B \text{ est donc semblable à } A }
   2. Soit $P \in GL_3(\mathbb{K})$ telle que $B = PAP^{-1}$. L'équation $M^2 = B$ est équivalente à $(P^{-1}MP)^2 = A$. En posant $N = P^{-1}MP$, on cherche $N$ tel que $N^2 = A$. D'après la question 1, les solutions pour $N$ sont les matrices de la forme :
      $$N_{a,b} = \begin{pmatrix} 0 & a & b$$
      0 & 0 & a^{-1}
      0 & 0 & 0 \end{pmatrix}
      Les solutions pour $M$ sont alors les matrices $M_{a,b} = P N_{a,b} P^{-1}$. L'application $(a,b) \mapsto P N_{a,b} P^{-1}$ est injective car $P$ est inversible. Comme $\mathbb{K}$ est infini, il y a une infinité de couples $(a,b) \in \mathbb{K}^* \times \mathbb{K}$. \boxed{ \text{L'équation } M^2 = B \text{ admet une infinité de solutions.} }