Stabilité locale des plans et spectre

Résolution.

1. Supposons par l'absurde que $u$ possède au moins trois valeurs propres distinctes, notées $\alpha_1, \alpha_2$ et $\alpha_3$. Soient $x_1, x_2, x_3$ trois vecteurs propres non nuls associés respectivement à ces valeurs propres. Puisque les valeurs propres sont distinctes, la famille $(x_1, x_2, x_3)$ est libre. Posons $x = x_1 + x_2 + x_3$. Par hypothèse, il existe $(\lambda, \mu) \in \mathbb{C}^2$ tels que $u^2(x) = \lambda u(x) + \mu x$. Calculons $u(x)$ et $u^2(x)$ en utilisant la linéarité :
   $$u(x) = \alpha_1 x_1 + \alpha_2 x_2 + \alpha_3 x_3$$
   $$u^2(x) = \alpha_1^2 x_1 + \alpha_2^2 x_2 + \alpha_3^2 x_3$$
   En injectant ces expressions dans la relation $u^2(x) - \lambda u(x) - \mu x = 0$, on obtient :
   $$(\alpha_1^2 - \lambda \alpha_1 - \mu) x_1 + (\alpha_2^2 - \lambda \alpha_2 - \mu) x_2 + (\alpha_3^2 - \lambda \alpha_3 - \mu) x_3 = 0$$
   Comme la famille $(x_1, x_2, x_3)$ est libre, tous les coefficients sont nuls :
   $$\forall i \in \{1, 2, 3\},   \alpha_i^2 - \lambda \alpha_i - \mu = 0$$
   Ceci signifie que $\alpha_1, \alpha_2, \alpha_3$ sont trois racines distinctes du polynôme $P(X) = X^2 - \lambda X - \mu$. Or, un polynôme de degré 2 non nul possède au plus deux racines. On en déduit $P = 0$, donc $\alpha_i^2 = \lambda \alpha_i + \mu = 0$ pour tout $i$, ce qui est absurde car les $\alpha_i$ sont distincts.
   $$\boxed{\text{L'endomorphisme } u \text{ possède au plus deux valeurs propres.}}$$

2. Supposons que $\text{Sp}(u) = \{\alpha\}$. Cas 1 : $x$ est un vecteur propre de $u$. Alors $u(x) = \alpha x$ et $u^2(x) = \alpha^2 x$. La relation $u^2(x) = \lambda_x u(x) + \mu_x x$ devient $\alpha^2 x = (\lambda_x \alpha + \mu_x) x$. Comme $x \neq 0$, cela impose $\alpha^2 = \lambda_x \alpha + \mu_x$. Cas 2 : $x$ n'est pas un vecteur propre de $u$. La famille $(x, u(x))$ est alors libre. Notons $H = \text{Vect}(x, u(x))$. Par hypothèse, $u^2(x) \in H$, donc $H$ est un plan stable par $u$. Soit $u_H$ la restriction de $u$ à $H$. La matrice de $u_H$ dans la base $(x, u(x))$ est :
   $$M = \begin{pmatrix} 0 & \mu_x$$
   1 & \lambda_x \end{pmatrix}
   Le polynôme caractéristique de $u_H$ est $\chi_{u_H}(X) = \det(XI_2 - M) = X^2 - \lambda_x X - \mu_x$. On sait que toute valeur propre de $u_H$ est une valeur propre de $u$. Donc $\text{Sp}(u_H) \subset \{\alpha\}$. Comme $\mathbb{C}$ est algébriquement clos et que $\chi_{u_H}$ est de degré 2, sa seule racine possible est $\alpha$ avec une multiplicité de 2. D'où :
   $$\chi_{u_H}(X) = (X - \alpha)^2 = X^2 - 2\alpha X + \alpha^2$$
   Par identification des coefficients, on obtient :
   $$\boxed{\lambda_x = 2\alpha   \text{et}   \mu_x = -\alpha^2}$$
   On vérifie que ces valeurs fonctionnent également pour le Cas 1 : $2\alpha(\alpha) + (-\alpha^2) = 2\alpha^2 - \alpha^2 = \alpha^2$, ce qui correspond bien au coefficient de $x$ dans $u^2(x) = \alpha^2 x$.