Étude du commutateur de deux endomorphismes

Partie I

1. Soit $x \in \operatorname{Ker} f$. On a $f(x) = 0$. D'après la relation fournie : $f \circ g - g \circ f = \alpha f$. En appliquant cette égalité au vecteur $x$ :
   $$f(g(x)) - g(f(x)) = \alpha f(x)$$
   Comme $f(x) = 0$ et $\alpha f(x) = 0$, il vient $f(g(x)) = 0$. Ainsi, $g(x) \in \operatorname{Ker} f$.
   $$\boxed{\operatorname{Ker} f \text{ est stable par } g}$$

2. Procédons par récurrence sur $k \geqslant 1$. Initialisation : Pour $k=1$, $\phi_g(f) = f \circ g - g \circ f = \alpha f$, la relation est vérifiée. Hérédité : Supposons $\phi_g(f^k) = k \alpha f^k$. Alors : \begin{align*} \phi_g(f^{k+1}) &= f^{k+1} g - g f^{k+1}
   &= f (f^k g - g f^k) + (f g - g f) f^k
   &= f (k \alpha f^k) + (\alpha f) f^k
   &= k \alpha f^{k+1} + \alpha f^{k+1} = (k+1) \alpha f^{k+1} \end{align*} La propriété est donc démontrée pour tout $k \in \mathbb{N}^*$.
   $$\boxed{\forall k \in \mathbb{N}^*, \phi_g(f^k) = k \alpha f^k}$$

3. L'application $\phi_g$ est un endomorphisme de l'espace vectoriel $\mathcal{L}(E)$. Comme $\dim \mathcal{L}(E) = n^2$, cet endomorphisme possède au plus $n^2$ valeurs propres distinctes. Si $f^k$ était non nul pour tout $k \in \mathbb{N}^*$, alors chaque $k \alpha$ (pour $k \in \{1, \dots, n^2+1\}$) serait une valeur propre de $\phi_g$. Or, $\alpha \neq 0$, donc les réels (ou complexes) $k \alpha$ sont tous distincts. Ceci contredit la dimension finie de $\mathcal{L}(E)$. Par conséquent, il existe nécessairement un entier $k$ tel que $f^k = 0$.
   $$\boxed{f \text{ est un endomorphisme nilpotent}}$$

4. Comme $f$ est nilpotent et $E \neq \{0\}$, on sait que $\operatorname{Ker} f \neq \{0\}$. D'après la question 1, $\operatorname{Ker} f$ est stable par $g$. On peut donc considérer l'endomorphisme induit par $g$ sur le sous-espace $V = \operatorname{Ker} f$. Puisque nous sommes sur $\mathbb{C}$ et que $\dim V \geqslant 1$, cet endomorphisme induit admet au moins une valeur propre $\lambda$. Soit $x \in V \setminus \{0\}$ un vecteur propre associé : $g(x) = \lambda x$. Comme $x \in \operatorname{Ker} f$, on a aussi $f(x) = 0 = 0 \cdot x$.
   $$\boxed{x \text{ est un vecteur propre commun à } f \text{ et } g}$$

Partie II

1. Posons $h = \alpha f + \beta g$. Calculons le commutateur $[h, g]$ : \begin{align*} \phi_g(h) &= h \circ g - g \circ h
   &= (\alpha f + \beta g) \circ g - g \circ (\alpha f + \beta g)
   &= \alpha (f \circ g - g \circ f) + \beta (g \circ g - g \circ g)
   &= \alpha (\alpha f + \beta g) = \alpha h \end{align*} Le couple $(h, g)$ vérifie la relation de la Partie I ($\phi_g(h) = \alpha h$ avec $\alpha \neq 0$). D'après la question I.4, il existe un vecteur $x \neq 0$ tel que $g(x) = \lambda x$ et $h(x) = \mu x$. On en déduit : $\alpha f(x) = h(x) - \beta g(x) = (\mu - \beta \lambda) x$. Comme $\alpha \neq 0$, $x$ est également un vecteur propre de $f$.
   $$\boxed{f \text{ et } g \text{ admettent un vecteur propre commun}}$$

2. 1. Puisque $f^{n-1} \neq 0$ et $f^n = 0$ (car $f$ est nilpotent en dimension $n$), $f$ est un endomorphisme dont l'indice de nilpotence est exactement $n$. Un résultat classique sur les endomorphismes nilpotents stipule qu'il existe un vecteur $e$ tel que $(e, f(e), \dots, f^{n-1}(e))$ soit libre. En dimension $n$, cette famille est une base.
      $$\boxed{\mathcal{B} = (e, f(e), \dots, f^{n-1}(e)) \text{ est une base de } E}$$

   2. Notons $v_k = f^k(e)$. On a $g(v_k) = g(f^k(e))$. D'après la relation $\phi_g(f^k) = k f^k$ (avec $\alpha=1$), on a $g \circ f^k = f^k \circ g - k f^k$. Ainsi : $g(v_k) = f^k(g(e)) - k v_k$. Si $g(e) = \sum_{j=0}^{n-1} \lambda_j v_j$, alors la matrice de $g$ dans $\mathcal{B}$ est triangulaire supérieure. Ses éléments diagonaux sont $\lambda_0 - k$ pour $k \in \{0, \dots, n-1\}$. Les valeurs propres sont donc $\lambda_0, \lambda_0-1, \dots, \lambda_0-n+1$.
      $$\boxed{\operatorname{Sp}(g) = \{ \lambda_0, \lambda_0-1, \dots, \lambda_0-n+1 \}}$$

   3. Les $n$ valeurs propres de $g$ sont distinctes, donc $g$ est diagonalisable. Soit $x_0$ un vecteur propre de $g$ pour la valeur propre $\lambda$. D'après la relation $g \circ f = f \circ (g - \operatorname{id})$, on a : $g(f(x_0)) = f(g(x_0) - x_0) = f(\lambda x_0 - x_0) = (\lambda-1) f(x_0)$. Par récurrence, $f^k(x_0)$ est soit nul, soit un vecteur propre de $g$ pour la valeur propre $\lambda-k$. Comme les valeurs propres sont distinctes, la famille $(x_0, f(x_0), \dots, f^{n-1}(x_0))$ est constituée de vecteurs propres associés à des valeurs propres différentes, elle est donc libre. En posant $e_1 = f^{n-1}(x_0), e_2 = f^{n-2}(x_0), \dots, e_n = x_0$, on obtient la structure de matrice demandée.