Étude d'une équation matricielle cubique

Résolution.

1. Considérons le polynôme $P(X) = X^3 - X - 1$. Par hypothèse, $P$ est un polynôme annulateur de $A$. Étudions les variations de la fonction $f: x \mapsto x^3 - x - 1$ sur $\mathbb{R}$. Sa dérivée est $f'(x) = 3x^2 - 1$, qui s'annule en $\pm \frac{1}{\sqrt{3}}$. Le maximum local est atteint en $-\frac{1}{\sqrt{3}}$ :
   $$f\left(-\frac{1}{\sqrt{3}}\right) = -\frac{1}{3\sqrt{3}} + \frac{1}{\sqrt{3}} - 1 = \frac{2}{3\sqrt{3}} - 1 = \frac{2\sqrt{3}}{9} - 1 < 0$$
   Puisque le maximum local est strictement négatif et que $\lim_{x \to +\infty} f(x) = +\infty$, le théorème des valeurs intermédiaires assure que $P$ possède une unique racine réelle $a$. De plus, comme $f(1) = -1$ et $f(2) = 5$, on sait que :
   $$\boxed{a \in ]1, 2[}$$
   Puisque $P$ est de degré 3, il possède deux autres racines dans $\mathbb{C}$, notées $b$ et $c$. Comme $P \in \mathbb{R}[X]$, ces racines sont conjuguées : $c = \bar{b}$. Le spectre de $A$, noté $\text{Sp}_{\mathbb{C}}(A)$, est inclus dans l'ensemble des racines de $P$, soit $\{a, b, \bar{b}\}$. Notons $m_a, m_b, m_{\bar{b}}$ les multiplicités respectives de ces valeurs propres (éventuellement nulles). Comme $A$ est une matrice réelle, les multiplicités des valeurs propres conjuguées sont égales : $m_b = m_{\bar{b}}$. Le déterminant est le produit des valeurs propres comptées avec multiplicité :
   $$\det(A) = a^{m_a} \cdot b^{m_b} \cdot (\bar{b})^{m_b} = a^{m_a} \cdot (b\bar{b})^{m_b}$$
   D'où :
   $$\det(A) = a^{m_a} \cdot |b|^{2m_b}$$
   Comme $a > 1$ et $|b|^2 \ge 0$, et que le déterminant d'une matrice inversible est non nul :
   $$\boxed{\det(A) > 0}$$

2. Un endomorphisme est diagonalisable sur $\mathbb{C}$ si et seulement s'il admet un polynôme annulateur scindé sur $\mathbb{C}$ à racines simples. Vérifions si les racines de $P$ sont simples. Les racines de $P'$ sont $\pm \frac{1}{\sqrt{3}}$. Nous avons déjà calculé $P(-1/\sqrt{3}) \neq 0$. De même, $P(1/\sqrt{3}) = \frac{1}{3\sqrt{3}} - \frac{1}{\sqrt{3}} - 1 = -\frac{2\sqrt{3}}{9} - 1 \neq 0$. Les racines de $P$ sont donc simples dans $\mathbb{C}$.
   $$\boxed{A \text{ est diagonalisable dans } \mathcal{M}_n(\mathbb{C})}$$

3. Pour que $A$ soit diagonalisable dans $\mathcal{M}_n(\mathbb{R})$, il faut et il suffit que son polynôme minimal soit scindé sur $\mathbb{R}$ à racines simples. Or, les seules racines réelles de $P$ se limitent à $\{a\}$. Ainsi, $A$ est diagonalisable sur $\mathbb{R}$ si et seulement si son spectre (dans $\mathbb{C}$) est réduit à $\{a\}$. Si $\text{Sp}_{\mathbb{C}}(A) = \{a\}$, comme $A$ est diagonalisable sur $\mathbb{C}$, elle est semblable à $a I_n$, donc $A = a I_n$. Réciproquement, si $A = a I_n$, elle est trivialement diagonalisable sur $\mathbb{R}$ (elle est déjà diagonale).
   $$\boxed{A \text{ est } \mathbb{R}\text{-diagonalisable} \iff A = a I_n}$$