Sous-espaces caractéristiques de $ab$ et $ba$

Résolution.

1. Procédons par récurrence sur $k \in \mathbb{N}^*$. Pour $k=1$, on a trivialement $a \circ (b \circ a) = (a \circ b) \circ a$ par associativité de la composition. Supposons la propriété vraie pour un rang $k \geq 1$. Alors :
   $$a \circ (b \circ a)^{k+1} = a \circ (b \circ a)^k \circ (b \circ a)$$
   Par hypothèse de récurrence :
   $$a \circ (b \circ a)^{k+1} = (a \circ b)^k \circ a \circ (b \circ a) = (a \circ b)^k \circ (a \circ b) \circ a$$
   D'où :
   $$\boxed{a \circ (b \circ a)^{k+1} = (a \circ b)^{k+1} \circ a}$$
   La propriété est donc démontrée pour tout $k \in \mathbb{N}^*$.

2. Soit $\lambda \in \mathbb{K}$. Notons $u = b \circ a$ et $v = a \circ b$. Observons que $a \circ (u - \lambda \text{id}_E) = a \circ u - \lambda a = v \circ a - \lambda a = (v - \lambda \text{id}_F) \circ a$. Par une récurrence immédiate, on en déduit que pour tout $k \in \mathbb{N}^*$ :
   $$a \circ (u - \lambda \text{id}_E)^k = (v - \lambda \text{id}_F)^k \circ a$$
   Soit $x \in E_{\lambda}^{c}(u)$. Par définition, il existe $k$ tel que $(u - \lambda \text{id}_E)^k(x) = 0$. En appliquant $a$, on obtient :
   $$a \left( (u - \lambda \text{id}_E)^k(x) \right) = 0 \implies (v - \lambda \text{id}_F)^k (a(x)) = 0$$
   Ceci prouve que $a(x) \in E_{\lambda}^{c}(v)$. Par conséquent :
   $$\boxed{a(E_{\lambda}^{c}(b \circ a)) \subset E_{\lambda}^{c}(a \circ b)}$$

3. 1. Supposons $\lambda \neq 0$. Par symétrie des rôles, on a aussi $b(E_{\lambda}^{c}(a \circ b)) \subset E_{\lambda}^{c}(b \circ a)$. Soit $x \in E_{\lambda}^{c}(b \circ a)$. On a $(b \circ a)(x) = x'$ avec $x' \in E_{\lambda}^{c}(b \circ a)$. Comme $\lambda \neq 0$, l'endomorphisme $b \circ a$ restreint à $E_{\lambda}^{c}(b \circ a)$ est un automorphisme (ses seules valeurs propres sont $\lambda$). Si $x \in \ker(a) \cap E_{\lambda}^{c}(b \circ a)$, alors $(b \circ a)(x) = b(0) = 0$. Comme l'endomorphisme induit par $b \circ a$ sur $E_{\lambda}^c(b \circ a)$ est injectif (puisque sa seule valeur propre est $\lambda \neq 0$), on a $x=0$. Ainsi, la restriction de $a$ à $E_{\lambda}^{c}(b \circ a)$ est injective. De même, la restriction de $b$ à $E_{\lambda}^{c}(a \circ b)$ est injective. Par le théorème du rang en dimension finie, et par double inclusion des images, on en déduit que les dimensions sont égales et que :
      $$\boxed{a_{|E_{\lambda}^c(ba)} : E_{\lambda}^{c}(b \circ a) \xrightarrow{\sim} E_{\lambda}^{c}(a \circ b) \text{ est un isomorphisme}}$$

   2. Puisque ces espaces sont isomorphes, ils ont la même dimension. Sur un corps où les polynômes sont scindés (comme $\mathbb{C}$), la dimension du sous-espace caractéristique est égale à la multiplicité de la racine dans le polynôme caractéristique. Ainsi, pour tout $\lambda \in \mathbb{K} \setminus \{0\}$, $\lambda$ a la même multiplicité dans $\chi_{a \circ b}$ et $\chi_{b \circ a}$.

4. Sur $\mathbb{C}$, les polynômes caractéristiques sont scindés. On peut écrire :
   $$\chi_{b \circ a}(X) = (-1)^n \prod_{\lambda \in \text{Sp}(ba)} (X - \lambda)^{m_\lambda(ba)}$$
   D'après la question précédente, pour $\lambda \neq 0$, $m_\lambda(ba) = m_\lambda(ab)$. Les polynômes ne peuvent donc différer que par la puissance de $X$ (la multiplicité de la valeur propre 0). Soit $n = \dim E$ et $p = \dim F$. On sait que $\deg \chi_{ba} = n$ et $\deg \chi_{ab} = p$. Notons $Q(X) = \prod_{\lambda \in \text{Sp}(ba) \setminus \{0\}} (X - \lambda)^{m_\lambda}$. Alors :
   $$\chi_{ba}(X) = X^{m_0(ba)} Q(X)   \text{et}   \chi_{ab}(X) = X^{m_0(ab)} Q(X)$$
   En comparant les degrés, on obtient que la partie non nulle des spectres est identique (avec multiplicités). Le lien entre les valuations est alors donné par la différence des dimensions des espaces :
   $$\boxed{\chi_{ab}(X) = (-1)^{p-n} X^{p-n} \chi_{ba}(X)}$$
   Ce qui signifie que les polynômes sont identiques à une puissance de $X$ près (la valuation diffère de $p-n$).