Facteurs communs des polynômes caractéristiques

Résolution.

1. Supposons $f$ et $g$ non inversibles. Alors $\text{Im}(f)$ est un sous-espace vectoriel de $E$ de dimension strictement inférieure à $n$. Il existe donc une forme linéaire non nulle $\phi \in E^*$ telle que $\text{Im}(f) \subset \text{Ker}(\phi)$, c'est-à-dire $\phi \circ f = 0$. De même, $g$ n'étant pas inversible, il existe un vecteur $v \in E$ non nul tel que $g(v) = 0$. Considérons l'endomorphisme $h$ défini par :
   $$\forall x \in E,   h(x) = \phi(x) \cdot v$$
   $h$ est non nul car $\phi \neq 0$ et $v \neq 0$. Vérifions la relation demandée : D'une part, pour tout $x \in E$, $(h \circ f)(x) = \phi(f(x)) \cdot v = 0$ car $\phi \circ f = 0$. D'autre part, $(g \circ h)(x) = g(\phi(x) \cdot v) = \phi(x) \cdot g(v) = 0$ car $g(v) = 0$.
   $$\boxed{\exists h \neq 0,   h \circ f = g \circ h = 0}$$

2. Si $f$ et $g$ ont une valeur propre commune $\lambda$, alors les endomorphismes $f_{\lambda} = f - \lambda \text{Id}_E$ et $g_{\lambda} = g - \lambda \text{Id}_E$ ne sont pas inversibles. D'après la question 1, il existe $h \neq 0$ tel que $h \circ f_{\lambda} = g_{\lambda} \circ h$. Développons cette égalité :
   $$h \circ (f - \lambda \text{Id}_E) = (g - \lambda \text{Id}_E) \circ h$$
   $$h \circ f - \lambda h = g \circ h - \lambda h$$
   En simplifiant par $\lambda h$, on obtient immédiatement :
   $$\boxed{h \circ f = g \circ h}$$

3. Soit $h$ de rang $r$ tel que $h \circ f = g \circ h$. D'après le théorème du rang et les propriétés des matrices, il existe deux bases de $E$ dans lesquelles la matrice de $h$ est $J_r = \begin{pmatrix} I_r & 0$
   0 & 0 \end{pmatrix}. Plus précisément, il existe $P, Q \in GL_n(\mathbb{K})$ telles que $H = P J_r Q$. La relation $HF = GH$ (où $F, G$ sont les matrices dans une base fixe) devient $P J_r Q F = G P J_r Q$, soit :
   $$J_r (Q F Q^{-1}) = (P^{-1} G P) J_r$$
   Posons $F' = Q F Q^{-1} = \begin{pmatrix} A & B$
   C & D \end{pmatrix} et $G' = P^{-1} G P = \begin{pmatrix} A' & B'$
   C' & D' \end{pmatrix}, où $A$ et $A'$ sont des matrices carrées d'ordre $r$. Le calcul par blocs donne :
   $$J_r F' = \begin{pmatrix} I_r & 0$$
   0 & 0 \end{pmatrix} \begin{pmatrix} A & B
   C & D \end{pmatrix} = \begin{pmatrix} A & B
   0 & 0 \end{pmatrix}
   $$G' J_r = \begin{pmatrix} A' & B'$$
   C' & D' \end{pmatrix} \begin{pmatrix} I_r & 0
   0 & 0 \end{pmatrix} = \begin{pmatrix} A' & 0
   C' & 0 \end{pmatrix}
   L'égalité $J_r F' = G' J_r$ impose $A = A'$, $B = 0$ et $C' = 0$. Ainsi :
   $$F' = \begin{pmatrix} A & 0$$
   C & D \end{pmatrix} \implies \chi_f(X) = \chi_{F'}(X) = \chi_A(X) \chi_D(X)
   $$G' = \begin{pmatrix} A & B'$$
   0 & D' \end{pmatrix} \implies \chi_g(X) = \chi_{G'}(X) = \chi_A(X) \chi_{D'}(X)
   Le polynôme $\chi_A$, qui est de degré $r$, divise donc à la fois $\chi_f$ et $\chi_g$.
   $$\boxed{\text{pgcd}(\chi_f, \chi_g) \text{ est de degré au moins } r}$$

4. Cherchons $f$ et $g$ tels que $\chi_f = \chi_g = X^2$ (donc $r=2$) mais avec $\text{rg}(h) \leq 1$. Soit $E = \mathbb{K}^2$. On pose :
   $$F = \begin{pmatrix} 0 & 1$$
   0 & 0 \end{pmatrix}   \text{et}   G = \begin{pmatrix} 0 & 0
   0 & 0 \end{pmatrix}
   On a bien $\chi_f(X) = \chi_g(X) = X^2$, le facteur commun est de degré 2. Soit $H = \begin{pmatrix} a & b$
   c & d \end{pmatrix}. La condition $HF = GH$ devient :
   $$\begin{pmatrix} a & b$$
   c & d \end{pmatrix} \begin{pmatrix} 0 & 1
   0 & 0 \end{pmatrix} = \begin{pmatrix} 0 & 0
   0 & 0 \end{pmatrix} \begin{pmatrix} a & b
   c & d \end{pmatrix} \iff \begin{pmatrix} 0 & a
   0 & c \end{pmatrix} = \begin{pmatrix} 0 & 0
   0 & 0 \end{pmatrix}
   On en déduit $a = c = 0$. La matrice $H$ est de la forme $\begin{pmatrix} 0 & b$
   0 & d \end{pmatrix}. Une telle matrice a ses deux lignes liées (la première colonne est nulle), donc son rang est au plus 1.
   $$\boxed{\text{rg}(h) \leq 1 < 2}$$