Réduction d'un opérateur de moyenne de projecteurs

Résolution.

1. Soient $(u, v) \in \mathcal{L}(E)^2$ et $\lambda \in \mathbb{R}$. Par distributivité et linéarité de la composition :
   $$\Phi(\lambda u + v) = \frac{1}{2} \left( p \circ (\lambda u + v) + (\lambda u + v) \circ p \right)$$
   $$\Phi(\lambda u + v) = \frac{1}{2} \left( \lambda (p \circ u) + p \circ v + \lambda (u \circ p) + v \circ p \right)$$
   $$\Phi(\lambda u + v) = \lambda \Phi(u) + \Phi(v)$$
   L'application $\Phi$ est donc linéaire de $\mathcal{L}(E)$ dans lui-même.
2. Introduisons les applications $L_p : u \mapsto p \circ u$ et $R_p : u \mapsto u \circ p$. On remarque que $\Phi = \frac{1}{2}(L_p + R_p)$. Puisque $p^2 = p$, nous avons $L_p^2(u) = p \circ (p \circ u) = p^2 \circ u = p \circ u = L_p(u)$. Ainsi, $L_p$ est un projecteur de $\mathcal{L}(E)$, donc il est diagonalisable. De même, $R_p^2(u) = (u \circ p) \circ p = u \circ p^2 = u \circ p = R_p(u)$. $R_p$ est également un projecteur, donc diagonalisable. Vérifions si ces deux endomorphismes commutent :
   $$(L_p \circ R_p)(u) = p \circ (u \circ p) = (p \circ u) \circ p = (R_p \circ L_p)(u)$$
   Comme $L_p$ et $R_p$ sont diagonalisables et commutent, ils sont simultanément diagonalisables. Leur somme $\Phi = \frac{1}{2}L_p + \frac{1}{2}R_p$ est donc diagonalisable.
3. Les valeurs propres d'un projecteur appartiennent à $\{0, 1\}$. Soit $u$ un vecteur propre commun à $L_p$ et $R_p$ associé aux valeurs propres $\alpha \in \{0, 1\}$ et $\beta \in \{0, 1\}$. Alors $\Phi(u) = \frac{1}{2}(\alpha + \beta) u$. Les valeurs propres possibles de $\Phi$ sont donc les éléments de :
   $$\left\{ \frac{1}{2}(0+0), \frac{1}{2}(0+1), \frac{1}{2}(1+0), \frac{1}{2}(1+1) \right\} = \left\{ 0, \frac{1}{2}, 1 \right\}$$
4. Soit $\mathcal{B} = (e_1, \dots, e_r, e_{r+1}, \dots, e_n)$ une base de $E$ adaptée à la décomposition $E = \operatorname{Im} p \oplus \operatorname{Ker} p$. Dans cette base, la matrice de $p$ est $P = \begin{pmatrix} I_r & 0$
   0 & 0 \end{pmatrix}. Soit $u \in \mathcal{L}(E)$ de matrice $M = \begin{pmatrix} A & B$
   C & D \end{pmatrix} dans cette même base, avec $A \in \mathcal{M}_r(\mathbb{R})$ et $D \in \mathcal{M}_{n-r}(\mathbb{R})$. Le calcul par blocs donne :
   $$P M = \begin{pmatrix} I_r & 0$$
   0 & 0 \end{pmatrix} \begin{pmatrix} A & B
   C & D \end{pmatrix} = \begin{pmatrix} A & B
   0 & 0 \end{pmatrix}
   $$M P = \begin{pmatrix} A & B$$
   C & D \end{pmatrix} \begin{pmatrix} I_r & 0
   0 & 0 \end{pmatrix} = \begin{pmatrix} A & 0
   C & 0 \end{pmatrix}
   On en déduit la matrice de $\Phi(u)$ :
   $$\operatorname{Mat}_{\mathcal{B}}(\Phi(u)) = \frac{1}{2} \begin{pmatrix} 2A & B$$
   C & 0 \end{pmatrix} = \begin{pmatrix} A & B/2
   C/2 & 0 \end{pmatrix}
   L'équation aux valeurs propres $\Phi(u) = \lambda u$ équivaut au système :
   $$\begin{cases} A = \lambda A$$
   \frac{1}{2}B = \lambda B
   \frac{1}{2}C = \lambda C
   0 = \lambda D \end{cases}
   Cas $\lambda = 1$ : Le système impose $B=0, C=0, D=0$ et $A$ libre. Les solutions sont les matrices de la forme $\begin{pmatrix} A & 0$
   0 & 0 \end{pmatrix}.
   $$\boxed{\dim E_1(\Phi) = r^2}$$
   Cas $\lambda = 0$ : Le système impose $A=0, B=0, C=0$ et $D$ libre. Les solutions sont les matrices de la forme $\begin{pmatrix} 0 & 0$
   0 & D \end{pmatrix}.
   $$\boxed{\dim E_0(\Phi) = (n-r)^2}$$
   Cas $\lambda = 1/2$ : Le système impose $A=0, D=0$, tandis que $B$ et $C$ sont libres. Les solutions sont les matrices de la forme $\begin{pmatrix} 0 & B$
   C & 0 \end{pmatrix}. La dimension est la somme des dimensions des blocs $B$ et $C$.
   $$\boxed{\dim E_{1/2}(\Phi) = 2r(n-r)}$$