Réduction des endomorphismes orthogonaux

Soit $E$ un espace euclidien de dimension $n \geq 1$ . On note $\langle \cdot, \cdot \rangle$ le produit scalaire sur $E$ et $O(E)$ le groupe des transformations orthogonales de $E$ .

Soit $u \in O(E)$ $u \in O (E)$ et $F$ $F$ un sous-espace vectoriel de $E$ $E$ stable par $u$ $u$ .
1. Montrer que la restriction de $u$ à $F$ induit un automorphisme orthogonal de $F$ .
2. Démontrer que l'orthogonal $F^{\perp}$ est également stable par $u$ .
Soit $u \in O(E)$ . On définit pour tout $\theta \in \mathbb{R}$ la matrice de rotation : $M(\theta) = \begin{pmatrix} \cos \theta & -\sin \theta \sin \theta & \cos \theta \end{pmatrix}$ Démontrer qu'il existe une base orthonormée $\mathcal{B}$ de $E$ telle que la matrice de $u$ dans $\mathcal{B}$ soit de la forme : $\text{Mat}_{\mathcal{B}}(u) = \begin{pmatrix} I_{p} & & & & & -I_{q} & & & & & M(\theta_{1}) & & & & & \ddots & & & & & M(\theta_{r}) \end{pmatrix}$ où $p, q, r$ sont des entiers naturels (éventuellement nuls).
Soit $A \in O_n(\mathbb{R})$ une matrice orthogonale. En utilisant le résultat précédent, démontrer que toutes les valeurs propres complexes de $A$ appartiennent au cercle unité $\mathbb{U} = \{ z \in \mathbb{C}, |z| = 1 \}$ .

1.

Pour la stabilité de $F^\perp$ , utiliser la conservation du produit scalaire et le fait que $u$ restreint à $F$ est une bijection.

2.

Procéder par récurrence sur la dimension de $E$ . On pourra admettre que tout endomorphisme d'un espace vectoriel réel de dimension $n \geq 1$ possède au moins une droite stable ou un plan stable.

3.

Pour les valeurs propres complexes, penser à la structure des blocs de la matrice de réduction.

Idées clés

•

Propriété d'isométrie : $\forall x \in E, \|u(x)\| = \|x\|$ .

•

Récurrence sur la dimension avec décomposition $E = S \oplus S^\perp$ .

•

Étude du spectre des matrices de rotation $M(\theta)$ .

Résolution.

1. Soit $x \in F$ . Par stabilité, $u(x) \in F$ . Puisque $u$ est une isométrie de $E$ , on a : $\forall x \in F, \|u(x)\| = \|x\|$ Ceci montre que $u_{|F}$ est une isométrie de $F$ , donc $u_{|F} \in O(F)$ .
  Comme tout endomorphisme orthogonal est injectif (son noyau est réduit au vecteur nul), $u_{|F}$ est un endomorphisme injectif d'un espace de dimension finie. Il en résulte que $u_{|F}$ est un automorphisme. On en déduit :
  $\boxed{u(F) = F}$
2. Soit $y \in F^{\perp}$ . Pour montrer que $u(y) \in F^{\perp}$ , on doit vérifier que pour tout $x \in F$ , $\langle u(y), x \rangle = 0$ . D'après la question précédente, $u(F) = F$ , donc il existe $z \in F$ tel que $x = u(z)$ .
  Par conservation du produit scalaire par $u$ :
  $\langle u(y), x \rangle = \langle u(y), u(z) \rangle = \langle y, z \rangle$ Comme $y \in F^{\perp}$ et $z \in F$ , on a $\langle y, z \rangle = 0$ , d'où $\langle u(y), x \rangle = 0$ . Ainsi, $u(y) \in F^{\perp}$ , ce qui prouve la stabilité : $\boxed{u(F^{\perp}) \subseteq F^{\perp}}$
Procédons par récurrence sur $n = \dim E$ . Le résultat est immédiat pour $n=0$ . Supposons-le vrai pour tout espace de dimension strictement inférieure à $n$ .
Tout endomorphisme d'un $\mathbb{R}$ -espace vectoriel de dimension $n \geq 1$ admet au moins un sous-espace stable de dimension 1 ou 2. Soit $S$ un tel sous-espace stable par $u$ . D'après la question 1, $S^{\perp}$ est également stable par $u$ et $\dim S^{\perp} = n - \dim S < n$ .
Premier cas : $\dim S = 1$ . Il existe $e \in S$ non nul tel que $u(e) = \lambda e$ . Puisque $u$ est une isométrie, $|\lambda| = 1$ , donc $\lambda = 1$ ou $\lambda = -1$ . On normalise $e$ pour avoir une base orthonormée de $S$ .
Second cas : $\dim S = 2$ . La restriction $u_{|S}$ est un élément de $O(S)$ . Si $u_{|S}$ possède une valeur propre réelle, on retombe sur le cas précédent (droite stable). Sinon, $u_{|S}$ est une rotation d'angle $\theta \notin \pi \mathbb{Z}$ . Dans une base orthonormée de $S$ , sa matrice est $M(\theta)$ .
En appliquant l'hypothèse de récurrence à $u_{|S^{\perp}}$ sur l'espace $S^{\perp}$ , on obtient une base orthonormée de $E$ par concaténation. Par réarrangement des vecteurs de base, on regroupe les valeurs propres $1$ , puis $-1$ , puis les blocs de rotation. On obtient bien la forme demandée :
$\boxed{\text{Mat}_{\mathcal{B}}(u) = \text{diag}\left( I_p, -I_q, M(\theta_1), \dots, M(\theta_r) \right)}$
Soit $A \in O_n(\mathbb{R})$ $A \in O_{n} (R)$ . $A$ $A$ est la matrice d'un endomorphisme orthogonal $u$ $u$ dans la base canonique (qui est orthonormée). D'après la question 2, $A$ $A$ est semblable (et même orthogonalement semblable) à une matrice $A'$ $A^{'}$ par blocs.
Les valeurs propres complexes de $A$ sont les mêmes que celles de $A'$ . Le spectre de $A'$ est la réunion des spectres de ses blocs diagonaux :
- Le bloc $I_p$ a pour valeur propre unique $1$ , et $|1| = 1$ .
- Le bloc $-I_q$ a pour valeur propre unique $-1$ , et $|-1| = 1$ .
- Chaque bloc $M(\theta_j)$ a pour polynôme caractéristique $X^2 - 2\cos(\theta_j)X + 1$ .
Les racines de ce polynôme sont $e^{i\theta_j}$ et $e^{-i\theta_j}$ . Ces nombres complexes ont pour module :
$|e^{i\theta_j}| = |e^{-i\theta_j}| = 1$
On conclut que toutes les valeurs propres $\lambda \in \mathbb{C}$ $λ \in C$ de $A$ $A$ vérifient :
$\boxed{|\lambda| = 1}$

L'erreur classique consiste à oublier de justifier la stabilité de $F^\perp$ en omettant d'utiliser le fait que $u(F)=F$ . Sans la surjectivité de la restriction (vraie ici car on est en dimension finie et $u$ est injective), la stabilité de $F^\perp$ est fausse en général.