Pour résoudre la Q2, il suffit de se représenter un cône dans l’espace et d’imaginer comment un vecteur appartenant à ce cône peut être la somme de deux vecteurs appartenant à ce même cône. On voit vite en considérant les angles avec le vecteur </s>u<e> quand cela va imposer la colinéarité des deux termes avec le vecteur initial. Voici une correction de la Q2.
Tout d’abord une notation pour simplifier les écritures et la rédaction. Dans la suite, pour </s>v<e> dans </s>E<e>, on notera
</s>v^\parallel=(u\mid v)u<e> le projeté orthogonal de </s>v<e> sur </s>\mathbb{R}u<e> et </s>v^\bot<e> le projeté orthogonal de </s>v<e> sur </s>(\mathbb{R}u)^{\bot}<e>.
Avant de répondre à la Q4, une remarque préliminaire, un lemme que l’on va utiliser (cela aurait dû être une question intermédiaire)
Q1.5: Soit </s>v<e> dans </s>\Omega<e>. Sous quelles conditions sur </s>v<e> a-t-on </s>v=v_1+v_2<e> avec </s>v_1,v_2<e> dans </s>\Omega<e> implique </s>v_1<e> et </s>v_2<e> colinéaires avec </s>v<e>?
</s>v<e> satisfait la propriété de la Q1.5 si et seulement si </s>\lVert v^\bot\rVert=v\cdot u<e>
[list=]
[*]Soit $v$ dans $\Omega$ tel que $\lVert v^\bot\rVert<v\cdot u$. Soit $F$ le plan vectoriel de $E$ auquel appartient $u$ et $v$ (Si $u$ est colinéaire avec $v$, on choisit n'importe quel plan vectoriel contenant $u$). L'intersection de $F$ et de la frontière de $\Omega$ (qui est convexe et fermé) est constituée de deux demi-droites perpendiculaires. Appelons $k_1$ et $k_2$ les deux vecteurs directeurs unitaires de ces deux demi-droites. Ces deux vecteurs sont orthogonaux et forment une base orthonormale du plan $F$. On a $v=(v\mid k_1)k_1+(v\mid k_2)k_2$. Et comme $0\leq \lVert v_\bot\rVert<(v\mid u)$, alors $(v\mid k_1)$ et $(v\mid k_2)$ sont non nuls donc les termes de la décomposition linéaires ne sont pas colinéaires. *Je l'ai fait de cette manière mais il y a plein d'autre manières d'effectuer cette décomposition.*
[*] Soit $v$ dans $\Omega$ vérifiant $\lVert v_\bot\rVert=v\cdot u$. Soient $v_1$ et $v_2$ dans $\Omega$ tels que $v_1+v_2=v$.
Comme $v_1$ et $v_2$ sont dans $\Omega$, on a
[ctex]
\lVert v_1^\bot\rVert \leq (v_1\mid u)\\
\lVert v_2^\bot\rVert \leq (v_2\mid u)
[/ctex]
On en déduit.
[ctex]
(v\mid u)=\lVert v^\bot\rVert=\lVert v_1^\bot+v_2^\bot\rVert\leq \lVert v_1^\bot\rVert+ \lVert v_2^\bot\rVert
\leq (v_1\mid u)+(v_2\mid u)=(v\mid u)
[/ctex]
Donc toutes les inégalités dans la dernière inégalité sont des égalités et on a $\lVert v_1^\bot+v_2^\bot\rVert= \lVert v_1^\bot\rVert+ \lVert v_2^\bot\rVert$. Puisque la somme des deux inégalités est une égalité, on a aussi $\lVert v_1^\bot\rVert =(v_1\mid u)$ et $\lVert v_2^\bot\rVert =(v_2\mid u)$. D'où, par Pythagore $\lVert v_1+v_2\rVert= \lVert v_1\rVert+ \lVert v_2\rVert$. Donc, d'après la condition d'égalité pour l'inégalité triangulaire sur un espace euclidien $v_1$ et $v_2$ sont colinéaires et il existe $\theta$ dans $[0,1]$ tel que $v_1=\theta v$ et $v_2=(1-\theta) v$. En particulier, $v=0$ implique $v_1=v_2=0$.
[/list]
Avec la réponse à Q1.5, on peut très facilement résoudre la Q2 et la Q4.
L’endomorphisme nul </s>\alpha<e> vérifie </s>\alpha(\Omega)=\{0\}\subset\Omega<e> donc elle est dans </s>\mathcal{N}<e>.
Soient </s>\ell_1<e> et </s>\ell_2<e> dans </s>\mathcal{N}<e> tels que </s>\ell_1+\ell_2=0<e>.
Soit </s>x<e> dans </s>\Omega<e>. Alors,
</s>\ell_1(x)\in\Omega<e>, </s>\ell_2(x)\in\Omega<e>, et </s>\ell_1(x)+\ell_2(x)=0<e>. Donc, d’après la Q1.5, on a </s>\ell_1(x)=\ell_2(x)=0<e>. Or </s>\mathrm{Vect}(\Omega)=E<e>, donc </s>\ell_1=\ell_2=0<e>. On a montré que l’endomorphisme nul est extrémale.
</s>1<e> sont tous les endomorphismes de la forme
</s>x\mapsto (w\mid x)v</TEX><e></u></e></U> avec <TEX><s>[tex]</s>v<e> et </s>w<e> dans </s>\Omega<e> et vérifiant
</s>\lVert v^\bot\rVert=(v\mid u)>0<e> et </s>\lVert w^\bot\rVert=(w\mid u)>0<e>
Recherchons d’abord les conditions nécessaires pour qu’un endomorphisme de rang </s>1<e> soit extrémal.
[list=]
[*]Soit $\alpha$ un endomorphisme appartenant à $\mathcal{N}$ de rang $1$, alors, il existe $v$ et $w$ non nuls dans $E$ tel que pour tout $x$ dans $E$. Par définition de $\mathcal{N}$, $\alpha$ dans $\mathcal{N}$ est équivalent à ce que pour que pour tout $x$ dans $\Omega$, $(w\mid x)v$ soit dans $\Omega$. Ce qui d'après la Q1 est équivalent à ce que pour tout $x$ et $y$ dans $\Omega$, $(w\mid x)(v\mid y)\geq0$. Quitte à remplacer $v$ par $-v$ et $w$ par $-w$ (ce qui ne change pas $\alpha$), cela est équivalent à ce que pour tout $x,y$ dans $\Omega$, $(w\mid y)\geq0$, $(v\mid x)\geq0$. Et donc équivalent à $v,w$ dans $\Omega$.
[*]Supposons maintenant $\lVert v\rVert<[tex]\alpha$, alors d'après la Q1.5, il existe $v_1,v_2$ non colinéaires dans $\Omega$ tel que $v=v_1+v_2$. On pose alors $\alpha_1\colon x\mapsto(w\mid x)v_1$ Et $\alpha_2\colon x\mapsto(w\mid x)v_2$. On a $\alpha_1,\alpha_2$ dans $\mathcal{N}$ et a $\alpha=\alpha_1+\alpha_2$. Or $\alpha_1$ et $\alpha_2$ non colinéaires donc $\alpha$ n'est pas extrémal. Donc, par contraposée, $\alpha$ extrémal de rang $1$ implique $\lVert v^\bot\rVert=(v\cdot u)$. On fait le même raisonnement avec $w$ et on obtient aussi $\alpha$ extrémal de rang $1$ implique $\lVert w^\bot\rVert=(w\cdot u)$.
[/list]
Nous allons maintenant montrer l’implication inverse: Soient </s>v,w<e> dans </s>\Omega<e> non nuls tels que </s>\lVert v^\bot\rVert=(v\cdot u)<e> et </s>\lVert w^\bot\rVert=(w\cdot u)<e>.
</s>\alpha\colon x\mapsto (w\mid x)v<e> est extrémal.
Soient </s>\alpha_1<e> et </s>\alpha_2<e> non nuls dans </s>\mathcal{N}<e> tels que </s>\alpha=alpha_1+\alpha_2<e>. Pour tout </s>x<e> dans </s>\Omega<e>, on a </s>\alpha_1(x)\in\Omega<e>, </s>\alpha_2(x)\in\Omega<e> et </s>\alpha_1(x)+\alpha_2(x)=(w\mid x)v<e>. Comme </s>\lVert v^\bot\rVert=(v\mid u)<e>, on a d’après la Q1.5,
pour tout </s>x<e> dans </s>\Omega<e> que </s>\alpha_1(x),\alpha_2(x)<e> colinéaires avec </s>v<e>. Or </s>\mathrm{Vect}(\Omega)=E<e>, donc pour tout </s>x<e> dans </s>E<e>, </s>\alpha_1(x),\alpha_2(x)<e> colinéaires avec </s>v<e>, donc </s>\alpha_1,\alpha_2<e> sont de rang </s>1<e> et d’image </s>\mathbb{R}v<e>. Donc, il existe </s>w_1<e> et </s>w_2<e> non nuls dans </s>E<e> tels que
[ctex]
\forall x\in E,, \alpha_1(x)=(w_1\mid x) v,\qquad\forall x\in E,, \alpha_2(x)=(w_2\mid x) v,\quad
[/ctex]
Comme montré plus haut, puisque </s>\alpha_1<e> et </s>\alpha_2<e> sont dans </s>\mathcal{N}<e>, on a </s>w_1<e>
et </s>w_2<e> dans </s>\Omega<e>. Et on a forcément aussi </s>w=w_1+w_2<e>, donc d’après la Q1.5, </s>w_1<e> et </s>w_2<e>
sont colinéaires. Donc, </s>\alpha_1<e> et </s>\alpha_2<e> sont colinéaires. On a montré que </s>\alpha<e> était extrémal.
Au final, on a démontré que l’endomorphisme nul est extrémal et que l’ensemble des endomorphismes extrémaux de rang </s>1<e> est égal à
[ctex]
{x\mapsto(w\mid x)v:v\in\partial\Omega\setminus{0},w\in\partial\Omega\setminus{0}}.
[/ctex]
EDIT: Amélioration rédaction réponse Q1.5