Coefficients et classes de similitude

Résolution.

1. Notons $A = \begin{pmatrix} 1 & 0$
   1 & 0 \end{pmatrix} et $D = \begin{pmatrix} 1 & 0$
   0 & 0 \end{pmatrix}. Le polynôme caractéristique de $A$ est :
   $$\chi_A(X) = \det(XI - A) = \begin{vmatrix} X-1 & 0$$
   -1 & X \end{vmatrix} = X(X-1)
   Les valeurs propres de $A$ sont $0$ et $1$. Elles sont distinctes et $A \in \mathcal{M}_2(\mathbb{C})$, donc $A$ est diagonalisable. $A$ est donc semblable à la matrice diagonale formée de ses valeurs propres, qui est précisément $D$.
   $$\boxed{A \text{ et } D \text{ sont semblables dans } \mathcal{M}_2(\mathbb{C})}$$

2. Soit $\mathcal{V} = \text{Vect}(\mathcal{P})$. Pour tout $i \in \{1, \dots, n\}$, la matrice $E_{i,i}$ (élément de la base canonique) vérifie $E_{i,i}^2 = E_{i,i}$. Ainsi, $E_{i,i} \in \mathcal{P} \subset \mathcal{V}$. Soient $i, j$ deux indices distincts dans $\{1, \dots, n\}$. Considérons la matrice $M = E_{i,i} + E_{i,j}$. Un calcul par blocs ou direct donne :
   $$M^2 = (E_{i,i} + E_{i,j})(E_{i,i} + E_{i,j}) = E_{i,i}^2 + E_{i,i}E_{i,j} + E_{i,j}E_{i,i} + E_{i,j}^2$$
   Comme $E_{i,i}E_{i,j} = E_{i,j}$, $E_{i,j}E_{i,i} = 0$ et $E_{i,j}^2 = 0$ (car $i \neq j$), il vient $M^2 = E_{i,i} + E_{i,j} = M$. Par conséquent, $M \in \mathcal{P}$. Comme $E_{i,j} = M - E_{i,i}$, on en déduit que $E_{i,j} \in \mathcal{V}$. L'espace $\mathcal{V}$ contient tous les éléments de la base canonique $(E_{i,j})_{1 \le i,j \le n}$.
   $$\boxed{\text{Vect}(\mathcal{P}) = \mathcal{M}_n(\mathbb{C})}$$

3. Nous allons montrer par contraposée que $A = 0$. Supposons $A \neq 0$. Cas 1 : $A$ possède une valeur propre $\lambda \neq 0$. Puisque nous sommes sur $\mathbb{C}$, $A$ est trigonalisable. Il existe une matrice $M$ semblable à $A$ telle que $M$ soit triangulaire supérieure avec ses valeurs propres sur la diagonale. On peut choisir de placer $\lambda$ en première position. Alors $m_{1,1} = \lambda \neq 0$. Cas 2 : La seule valeur propre de $A$ est $0$. Dans ce cas, $A$ est nilpotente. Puisque $A \neq 0$, son indice de nilpotence $p$ vérifie $p \ge 2$. Il existe un vecteur $x$ tel que $u^{p-1}(x) \neq 0$ et $u^p(x) = 0$. Posons $e_1 = u^{p-2}(x) + u^{p-1}(x)$ et $e_2 = u^{p-2}(x)$ (si $p=2$, on prend $u^{p-2} = Id$). La famille $(e_1, e_2)$ est libre. En effet, si $ae_1 + be_2 = 0$, alors :
   $$(a+b)u^{p-2}(x) + a u^{p-1}(x) = 0$$
   En appliquant $u$, on obtient $(a+b)u^{p-1}(x) = 0$, d'où $a+b=0$, puis $a=0$ car $u^{p-1}(x) \neq 0$. On complète $(e_1, e_2)$ en une base $\mathcal{B} = (e_1, e_2, \dots, e_n)$. L'image de $e_1$ par $u$ est :
   $$u(e_1) = u^{p-1}(x) + u^p(x) = u^{p-1}(x) = e_1 - e_2$$
   Dans cette base, la matrice $M$ de $u$ vérifie $m_{1,1} = 1 \neq 0$. Dans les deux cas, si $A \neq 0$, il existe une matrice semblable dont le premier coefficient est non nul.
   $$\boxed{A = 0}$$

4. Soit $u$ l'endomorphisme associé à $A$. La condition est que pour toute base $\mathcal{B} = (e_1, \dots, e_n)$, la deuxième composante de $u(e_2)$ sur $e_1$ est nulle. Supposons que $u$ ne soit pas une homothétie (matrice non scalaire). Alors il existe un vecteur $x$ tel que la famille $(x, u(x))$ soit libre. Posons $e_1 = u(x)$ et $e_2 = x$. La famille $(e_1, e_2)$ est libre, on la complète en une base $\mathcal{B} = (e_1, e_2, e_3, \dots, e_n)$. Par construction, $u(e_2) = u(x) = e_1$. Le coefficient $m_{1,2}$ de la matrice de $u$ dans cette base est donc égal à $1$, ce qui contredit l'hypothèse. Par conséquent, $u$ est nécessairement une homothétie. Réciproquement, si $A = \lambda I$, toute matrice semblable à $A$ est égale à $\lambda I$, et son coefficient $m_{1,2}$ est bien nul (car $n \ge 2$, sinon la question n'a pas de sens).
   $$\boxed{A \text{ est une matrice scalaire}}$$