Si ${\lambda }_{\min }=\min \mathrm{Sp}(u)$ et ${\lambda }_{\max }=\max \mathrm{Sp}(u)$, on montre en introduisant une base orthonormée diagonalisant $u$ que

$$\forall x\in E,{\lambda }_{\min }{\parallel x\parallel }^2\le (u(x)\mid x)\le {\lambda }_{\max }{\parallel x\parallel }^2\text{.}$$

Pour qu’il existe un vecteur unitaire appartenant à $H_u$, il est nécessaire que $1\in [{\lambda }_{\min };{\lambda }_{\max }]$.

Inversement, supposons $1\in [{\lambda }_{\min };{\lambda }_{\max }]$.

Si ${\lambda }_{\min }={\lambda }_{\max }$, c’est immédiat.

Supposons désormais ${\lambda }_{\min }<{\lambda }_{\max }$. On introduit $e_{\min }$ vecteur propre unitaire associé à ${\lambda }_{\min }$ et $e_{\max }$ vecteur propre unitaire associé à ${\lambda }_{\max }$. Considérons enfin

$$e_{\theta }=\cos (\theta )e_{\min }+\sin (\theta )e_{\max }\text{.}$$

Puisque $e_{\min }$ et $e_{\max }$ sont unitaires et orthogonaux, on vérifie $\parallel e_{\theta }\parallel =1$. Considérons ensuite $f(\theta )=(u(e_{\theta })\mid e_{\theta })$. La fonction $f$ est continue, $f(0)={\lambda }_{\min }$ et $f(\pi /2)={\lambda }_{\max }$ dont, en vertu du théorème des valeurs intermédiaires, il existe $\theta \in [0;\pi /2]$ vérifiant $e_{\theta }\in H_u$.

Considérons le produit scalaire défini par

$$⟨x,y⟩=(v(x)\mid y)\text{.}$$

On observe

$$(v(x)\mid x)=(x\mid x)\mathit{\hspace{1em}}\text{et}\mathit{\hspace{1em}}(u(x)\mid x)=⟨v^{-1}\circ u(x),x⟩\text{.}$$

L’endomorphisme $v^{-1}\circ u$ est autoadjoint pour le produit scalaire $⟨\cdot ,\cdot ⟩$ et l’étude du a) adaptée au contexte en cours, assure qu’il existe $x\in E$ vérifiant

$$⟨x,x⟩=1\mathit{\hspace{1em}}\text{et}\mathit{\hspace{1em}}⟨v^{-1}\circ u(x),x⟩=1$$

si, et seulement si, $1$ est compris entre

$$1\in [\min \mathrm{Sp}(v^{-1}\circ u);\max \mathrm{Sp}(v^{-1}\circ u)]\text{.}$$

Considérons l’endomorphisme $u=f^{*}\circ f$. Par le théorème spectral, il existe une base orthonormée $ℬ=({\epsilon }_1,\mathrm{\dots },{\epsilon }_n)$ dans laquelle la matrice de $u$ est diagonale

$${\mathrm{Mat}}_{ℬ}(u)=\left(\begin{array}{ccc}\hfill {\lambda }_1\hfill & \hfill \hfill & \hfill (0)\hfill \\ \hfill \hfill & \hfill \mathrm{\ddots }\hfill & \hfill \hfill \\ \hfill (0)\hfill & \hfill \hfill & \hfill {\lambda }_n\hfill \end{array}\right)\text{.}$$

On a alors pour tout $1\le i\ne j\le n$,

$$\left(f({\epsilon }_i)\mid f({\epsilon }_j)\right)=({\epsilon }_i\mid u({\epsilon }_j))={\lambda }_j({\epsilon }_i\mid {\epsilon }_j)=0\text{.}$$

Ainsi, l’endomorphisme $f$ transforme la base $({\epsilon }_1,\mathrm{\dots },{\epsilon }_n)$ en une famille orthogonale.

$M$ est la matrice dans la base canonique $(e_1,\mathrm{\dots },e_n)$ de ${ℝ}^n$ d’un certain automorphisme $f$. Par ce qui précède, il existe une base orthonormée $({\epsilon }_1,\mathrm{\dots },{\epsilon }_n)$ de ${ℝ}^n$ dont l’image par $f$ est une famille orthogonale. Celle-ci ne comporte pas le vecteur nul car $f$ est un automorphisme et donc, en posant,

$${\phi }_i=\frac{f({\epsilon }_i)}{\parallel f({\epsilon }_i)\parallel }$$

on forme une base orthonormée $({\phi }_1,\mathrm{\dots },{\phi }_n)$ telle que la matrice de l’application linéaire $f$ dans les bases $({\epsilon }_1,\mathrm{\dots },{\epsilon }_n)$ et $({\phi }_1,\mathrm{\dots },{\phi }_n)$ est la matrice diagonale

$$D=\left(\begin{array}{ccc}\hfill \parallel f({\epsilon }_1)\parallel \hfill & \hfill \hfill & \hfill (0)\hfill \\ \hfill \hfill & \hfill \mathrm{\ddots }\hfill & \hfill \hfill \\ \hfill (0)\hfill & \hfill \hfill & \hfill \parallel f({\epsilon }_n)\parallel \hfill \end{array}\right)\text{.}$$

Par formule de changement de bases orthonormées, on obtient

$$UMV=D$$

avec $U,V$ matrices orthogonales

$$U={\mathrm{Mat}}_{(e_1,\mathrm{\dots },e_n)}({\phi }_1,\mathrm{\dots },{\phi }_n)\mathit{\hspace{1em}}\text{et}\mathit{\hspace{1em}}V={\mathrm{Mat}}_{(e_1,\mathrm{\dots },e_n)}{({\epsilon }_1,\mathrm{\dots },{\epsilon }_n)}^{\top }\text{.}$$

Si $M$ n’est pas inversible, ce qui précède peut être repris en posant

$${\phi }_i=\frac{f({\epsilon }_i)}{\parallel f({\epsilon }_i)\parallel }$$

quand $f({\epsilon }_i)\ne 0$ et en choisissant les autres ${\phi }_i$ dans une base orthonormée de ${\left(\mathrm{Im}(f)\right)}^{\perp }$ pour former une base orthonormée $({\phi }_1,\mathrm{\dots },{\phi }_n)$ satisfaisante.

On a

$$M^{\top }M=\left(\begin{array}{cc}\hfill 2\hfill & \hfill 4\hfill \\ \hfill 4\hfill & \hfill 8\hfill \end{array}\right)\text{.}$$

Une base orthonormée diagonalisant $M^{\top }M$ est formée des vecteurs

$${\epsilon }_1=\frac{1}{\sqrt{5}}\left(\begin{array}{c}\hfill 1\hfill \\ \hfill 2\hfill \end{array}\right)\mathit{\hspace{1em}}\text{et}\mathit{\hspace{1em}}{\epsilon }_2\frac{1}{\sqrt{5}}\left(\begin{array}{c}\hfill 2\hfill \\ \hfill -1\hfill \end{array}\right)$$

et puisque

$$M{\epsilon }_1=\sqrt{10}{\phi }_1\text{ avec }{\phi }_1=\frac{1}{\sqrt{2}}\left(\begin{array}{c}\hfill 1\hfill \\ \hfill 1\hfill \end{array}\right)$$

on prend

$${\phi }_2=\frac{1}{\sqrt{2}}\left(\begin{array}{c}\hfill 1\hfill \\ \hfill -1\hfill \end{array}\right)\text{.}$$

et l’on obtient

$$UMV=\left(\begin{array}{cc}\hfill \sqrt{10}\hfill & \hfill 0\hfill \\ \hfill 0\hfill & \hfill 0\hfill \end{array}\right)$$

avec

$$U=\frac{1}{\sqrt{2}}\left(\begin{array}{cc}\hfill 1\hfill & \hfill 1\hfill \\ \hfill 1\hfill & \hfill -1\hfill \end{array}\right)\mathit{\hspace{1em}}\text{et}\mathit{\hspace{1em}}V=\frac{1}{\sqrt{5}}\left(\begin{array}{cc}\hfill 1\hfill & \hfill 2\hfill \\ \hfill 2\hfill & \hfill -1\hfill \end{array}\right)\text{.}$$

$A\in {𝒮}_n^{+*}(E)$ donc $A^{-1}\in {𝒮}_n^{+*}(E)$ et par suite ${⟨\cdot ,\cdot ⟩}_A$ est un produit scalaire sur $E$.

On a

$${⟨x,ABy⟩}_A=⟨A^{-1}x,ABy⟩=⟨x,By⟩=⟨Bx,y⟩={⟨ABx,y⟩}_A\text{.}$$

L’endomorphisme $AB$ est autoadjoint dans $(E,{⟨\cdot ,\cdot ⟩}_A)$ donc diagonalisable.

On a

$$\frac{⟨Bx,x⟩}{⟨A^{-1}x,x⟩}=\frac{{⟨ABx,x⟩}_A}{{\parallel x\parallel }_A^2}\text{.}$$

En introduisant une base orthonormée $ℬ=(e_1,\mathrm{\dots },e_n)$ de $(E,{⟨\cdot ,\cdot ⟩}_A)$ formée de vecteurs propres de $AB$, on peut écrire pour $x=x_1{e}_1+\mathrm{\cdots }+x_n{e}_n$,

$$\frac{{⟨ABx,x⟩}_A}{{\parallel x\parallel }_A^2}=\frac{{\lambda }_1{x}_1^2+\mathrm{\cdots }+{\lambda }_n{x}_n^2}{x_1^2+\mathrm{\cdots }+x_n^2}$$

en notant ${\lambda }_1,\mathrm{\dots },{\lambda }_n$ les valeurs propres de $AB$. Il est clair que cette quantité est comprise entre ${\lambda }_{\min }(AB)$ et ${\lambda }_{\max }(AB)$. De plus, ces deux valeurs propres sont valeurs prise par

$$\frac{{⟨ABx,x⟩}_A}{{\parallel x\parallel }_A^2}$$

en $x$ vecteur propre associé. Enfin, $E\setminus \{0_E\}$ est connexe par arcs et l’image d’un connexe par arcs par une application continue est un connexe par arcs. On peut donc conclure que les valeurs prises par

$$x\mapsto \frac{⟨Bx,x⟩}{⟨A^{-1}x,x⟩}$$

sur $E\setminus \{0\}$ constituent le segment

$$[{\lambda }_{\min }(AB);{\lambda }_{\max }(AB)]\text{.}$$

On a $⟨Bx,x⟩\le {\lambda }_{\max }(B){\parallel x\parallel }^2$ et $⟨A^{-1}x,x⟩\ge {\lambda }_{\min }(A^{-1}){\parallel x\parallel }^2$ donc

$$\frac{⟨Bx,x⟩}{⟨A^{-1}x,x⟩}\le \frac{{\lambda }_{\max }(B)}{{\lambda }_{\min }(A^{-1})}\text{.}$$

Or

$${\lambda }_{\min }(A^{-1})=\frac{1}{{\lambda }_{\max }(A)}$$

donc

$$\frac{⟨Bx,x⟩}{⟨A^{-1}x,x⟩}\le {\lambda }_{\max }(A){\lambda }_{\max }(B)$$

et la conclusion est dès lors facile.