• (a)

  Si $\xi$ est racine de $P$ alors

  $${\xi }^3=-a{\xi }^2-b\xi -c\text{.}$$

  Cas: $|\xi |\le 1$. L’inégalité voulue est vérifiée.

  Cas: $|\xi |>1$. On vérifie $1\le {|\xi |}^2$ et $|\xi |\le {|\xi |}^2$. On a alors

  	${\left|\xi \right|}^3=\left|a{\xi }^2+b\xi +c\right|$
  		$\le |a|{|\xi |}^2|b||\xi |+|c|$
  		$\le |a|{|\xi |}^2+|b|{|\xi |}^2+|c|{|\xi |}^2\text{.}$

  En simplifiant par ${|\xi |}^2$,

  $$|\xi |\le |a|+|b|+|c|$$

  et l’inégalité voulue est à nouveau vérifiée.

• (b)

  Soit ${(a_n,b_n,c_n)}_{n\in \mathbb{N}}$ une suite convergente d’éléments de $𝒟$ et notons $(a,b,c)$ sa limite.

  Pour tout $n\in \mathbb{N}$, notons $x_n$, $y_n$ et $z_n$ les trois racines réelles du polynôme $P_n=X^3+a_n{X}^2+b_{n}X+c_n$ que l’on sait scindé sur $ℝ$.

  La suite ${(a_n,b_n,c_n)}_{n\in \mathbb{N}}$ est bornée car convergente et la suite ${(x_n,y_n,z_n)}_{n\in \mathbb{N}}$ l’est donc aussi en vertu du résultat de la première question. Par le théorème de Bolzano-Weierstrass, on peut en extraire une suite convergente ${(x_{\phi (k)},y_{\phi (k)},z_{\phi (k)})}_{k\in \mathbb{N}}$. Notons $(x,y,z)$ la limite de celle-ci. Par les relations coefficients/racines d’un polynôme scindé, on sait

  $$\{\begin{array}{ccccccccccccccccccccc}\hfill a_n& =-(x_n+y_n+z_n)\hfill & & & & & & & & & & & & & & & & & & & \\ \hfill b_n& =x_n{y}_n+y_n{z}_n+z_n{x}_n\hfill & & & & & & & & & & & & & & & & & & & \\ \hfill c_n& =-x_n{y}_n{z}_n\hfill & & & & & & & & & & & & & & & & & & & \end{array}\mathit{\hspace{1em}}\text{pour tout }n\in \mathbb{N}\text{.}$$

  Cela vaut en particulier pour $n=\phi (k)$ et en faisant alors tendre $k$ vers l’infini, il vient

  $$\{\begin{array}{ccccccccccccccccccccc}\hfill a& =-(x+y+z)\hfill & & & & & & & & & & & & & & & & & & & \\ \hfill b& =xy+yz+zx\hfill & & & & & & & & & & & & & & & & & & & \\ \hfill c& =-xyz\text{.}\hfill & & & & & & & & & & & & & & & & & & & \end{array}$$

  Par ce système, on peut affirmer que les réels $x$, $y$ et $z$ sont les trois racines du polynôme $X^3+a{X}^2+bX+c$ qui est donc scindé sur $ℝ$. Ainsi, $(a,b,c)\in 𝒟$ et $𝒟$ est donc une partie fermée¹¹ 1 Un étude plus approfondie généralisant le concept de discriminant permet de décrire $𝒟$ comme l’ensemble des triplets $(a,b,c)\in {ℝ}^3$ vérifiant $a^2{b}^2+18abc-4b^3-4a^{3}c-27c^2\ge 0$: ce résultat permet d’obtenir la fermeture de $𝒟$ plus immédiatement en considérant que $𝒟$ est l’image réciproque d’un fermé par une application continue. car contient les limites de ses suites convergentes.

$A$ est fermé car si $u^p=(u_n^p)$ est une suite d’éléments de $A$ convergeant vers une suite $u=(u_n)$ pour la norme ${\parallel \cdot \parallel }_{\mathrm{\infty }}$ alors pour tout $n\in \mathbb{N}$ et tout $p\in \mathbb{N}$, $u_n^p\le u_{n+1}^p$ qui donne à la limite $u_n\le u_{n+1}$ et donc $u\in A$.
$B$ est fermé car si $u^p=(u_n^p)$ est une suite d’éléments de $B$ convergeant vers une suite $u=(u_n)$ pour la norme ${\parallel \cdot \parallel }_{\mathrm{\infty }}$ alors pour tout $\epsilon >0$ il existe $p\in \mathbb{N}$ tel que ${\parallel u-u^p\parallel }_{\mathrm{\infty }}\le \epsilon /2$ et puisque $u_n^p\underset{n\to +\mathrm{\infty }}{\overset{}{\to }}0$, il existe $N\in \mathbb{N}$ tel que

$$\forall n\ge N,\left|u_n^p\right|\le \epsilon /2$$

et donc

$$|u_n|\le \left|u_n-u_n^p\right|+\left|u_n^p\right|\le \epsilon \text{.}$$

Ainsi $u\to 0$ et donc $u\in B$.
$C$ est fermé. En effet, si $u^p=(u_n^p)$ est une suite d’éléments de $C$ convergeant vers une suite $u=(u_n)$ pour la norme ${\parallel \cdot \parallel }_{\mathrm{\infty }}$ alors en notant ${\mathrm{\ell }}^p$ la limite de $u^p$, la suite $({\mathrm{\ell }}^p)$ est une suite de Cauchy puisque $\left|{\mathrm{\ell }}^p-{\mathrm{\ell }}^q\right|\le {\parallel u^p-u^q\parallel }_{\mathrm{\infty }}$. Posons $\mathrm{\ell }$ la limite de la suite $({\mathrm{\ell }}^p)$ et considérons $v^p=u^p-{\mathrm{\ell }}^p$. $v^p\in B$ et $v^p\to u-\mathrm{\ell }$ donc $u-\mathrm{\ell }\in B$ et $u\in C$.
$D$ est fermé car si $u^p=(u_n^p)$ est une suite d’éléments de $D$ convergeant vers une suite $u=(u_n)$ pour la norme ${\parallel \cdot \parallel }_{\mathrm{\infty }}$ alors pour tout $\epsilon >0$ il existe $p\in \mathbb{N}$ tel que ${\parallel u-u^p\parallel }_{\mathrm{\infty }}\le \epsilon /2$ et puisque 0 est valeur d’adhérence de $u^p$, il existe une infinité de $n$ tels que $\left|u_n^p\right|\le \epsilon /2$ et donc tels que

$$|u_n|\le \left|u_n-u_n^p\right|+\left|u_n^p\right|\le \epsilon \text{.}$$

Ainsi 0 est valeur d’adhérence de $u$ et donc $u\in D$.
$E$ n’est pas fermé. Notons ${\delta }^p$, la suite déterminée par ${\delta }_n^p=1$ si $p\mid n$ et 0 sinon. La suite ${\delta }^p$ est périodique et toute combinaison linéaire de suites ${\delta }^p$ l’est encore. Posons alors

$$u^p=\sum _{k=1}^p\frac{1}{2^k}{\delta }^k$$

qui est élément de $E$. La suite $u^p$ converge car

$${\parallel u^{p+q}-u^p\parallel }_{\mathrm{\infty }}\le \sum _{k=p+1}^{p+q}\frac{1}{2^k}\le \frac{1}{2^p}\to 0$$

et la limite $u$ de cette suite n’est pas périodique car

$$u_0=\underset{p\to +\mathrm{\infty }}{lim}\sum _{k=1}^p\frac{1}{2^k}=1$$

et que $u_n<1$ pour tout $n$ puisque pour que $u_n=1$ il faut $k\mid n$ pour tout $k\in \mathbb{N}$.

• (a)

  Par définition de l’ensemble $E$, l’application $\parallel \cdot \parallel :E\to {ℝ}_{+}$ est bien définie.
  Soient ${(a_n)}_{n\ge 0}$, ${(b_n)}_{n\ge 0}$ éléments de $E$ et $\lambda \in ℝ$.

  $$\parallel a+b\parallel =\sum _{n=0}^{+\mathrm{\infty }}|a_n+b_n|\le \sum _{n=0}^{+\mathrm{\infty }}\left(|a_n|+|b_n|\right)=\parallel a\parallel +\parallel b\parallel$$

  avec convergence des séries écrites, et

  $$\parallel \lambda .a\parallel =\sum _{n=0}^{+\mathrm{\infty }}|\lambda a_n|=\sum _{n=0}^{+\mathrm{\infty }}|\lambda ||a_n|=|\lambda |\sum _{n=0}^{+\mathrm{\infty }}|a_n|=|\lambda |\parallel a\parallel \text{.}$$

  Enfin, si $\parallel a\parallel =0$ alors

  $$\forall n\in \mathbb{N},|a_n|\le \parallel a\parallel =0$$

  donne ${(a_n)}_{n\ge 0}={(0)}_{n\ge 0}$

• (b)

  Considérons la forme linéaire

  $$\phi :{(a_n)}_{n\ge 0}\mapsto \sum _{n=0}^{+\mathrm{\infty }}{a}_n\text{.}$$

  On vérifie

  $$\forall a={(a_n)}_{n\ge 0}\in E,\left|\phi (a)\right|=\left|\sum _{n=0}^{+\mathrm{\infty }}{a}_n\right|\le \sum _{n=0}^{+\mathrm{\infty }}|a_n|=\parallel a\parallel \text{.}$$

  La forme linéaire $\phi$ est donc continue.
  Puisque $F={\phi }^{-1}(\{1\})$ avec $\{1\}$, la partie $F$ est fermée en tant qu’image réciproque d’une partie fermée par une application continue..
  Posons $e=(\mathrm{1,0,0},\mathrm{\dots })$ et un élément de $F$ et

  $$\forall \alpha >0,e+\alpha e\notin F\text{ et }\parallel e-(e+\alpha e)\parallel =\alpha \text{.}$$

  On en déduit que $F$ n’est pas un voisinage de son élément $e$ et par conséquent la partie $F$ n’est pas ouverte.
  Posons ${\alpha }^p=e+p.(1,-\mathrm{1,0,0},\mathrm{\dots })$.

  $$\forall p\in \mathbb{N},{\alpha }^p\in F\text{ et }\parallel {\alpha }^p\parallel \underset{p\to +\mathrm{\infty }}{\overset{}{\to }}+\mathrm{\infty }\text{.}$$

  La partie $F$ n’est donc pas bornée.

Cas: $A\in {ℳ}_n(ℂ)$ est diagonalisable. Soit $(A_p)$ une suite convergente de matrices semblables à $A$.
Notons $A_{\mathrm{\infty }}$ la limite de $(A_p)$.
Si $P$ est un polynôme annulateur de $A$, $P$ est annulateur des $A_p$ et donc $P$ annule $A_{\mathrm{\infty }}$. Puisque $A$ est supposée diagonalisable, il existe un polynôme scindé simple annulant $A$ et donc $A_{\mathrm{\infty }}$ et par suite $A_{\mathrm{\infty }}$ est diagonalisable.
De plus, ${\chi }_A={\chi }_{A_p}$ donc à la limite ${\chi }_A={\chi }_{A_{\mathrm{\infty }}}$.
On en déduit que $A$ et $A_{\mathrm{\infty }}$ ont les mêmes valeurs propres et que celles-ci ont mêmes multiplicités. On en conclut que $A$ et $A_{\mathrm{\infty }}$ sont semblables.
Ainsi, la classe de similitude de $A$ est fermée.
Cas: $A\in {ℳ}_n(ℂ)$ non diagonalisable. À titre d’exemple, considérons la matrice

$$A=\left(\begin{array}{cc}\hfill \lambda \hfill & \hfill 1\hfill \\ \hfill 0\hfill & \hfill \lambda \hfill \end{array}\right)\text{.}$$

Pour $P_p=\left(\begin{array}{cc}\hfill p\hfill & \hfill 0\hfill \\ \hfill 0\hfill & \hfill 1\hfill \end{array}\right)$, on obtient

$$P_p^{-1}A{P}_p=\left(\begin{array}{cc}\hfill \lambda \hfill & \hfill 1/p\hfill \\ \hfill 0\hfill & \hfill \lambda \hfill \end{array}\right)\to \lambda {\mathrm{I}}_2$$

qui n’est pas semblable à $A$.
De façon plus générale, si la matrice $A$ n’est pas diagonalisable, il existe une valeur propre $\lambda$ pour laquelle

$$\mathrm{Ker}{(A-\lambda {\mathrm{I}}_2)}^2\ne \mathrm{Ker}(A-\lambda {\mathrm{I}}_2)\text{.}$$

Pour $X_2\in \mathrm{Ker}{(A-\lambda {\mathrm{I}}_2)}^2\setminus \mathrm{Ker}(A-\lambda {\mathrm{I}}_2)$ et $X_1=(A-\lambda {\mathrm{I}}_2)X_2$, la famille $(X_1,X_2)$ vérifie $A{X}_1=\lambda X_1$ et $A{X}_2=\lambda X_2+X_1$. En complétant la famille libre $(X_1,X_2)$ en une base, on obtient que la matrice $A$ est semblable à

$$T=\left(\begin{array}{ccc}\hfill \lambda \hfill & \hfill 1\hfill & \hfill (*)\hfill \\ \hfill 0\hfill & \hfill \lambda \hfill & \hfill (*)\hfill \\ \hfill (0)\hfill & \hfill (0)\hfill & \hfill B\hfill \end{array}\right)\text{.}$$

Pour $P_p=\mathrm{diag}(p\mathrm{,1},\mathrm{\dots }\mathrm{,1})$, on obtient

$$P_p^{-1}T{P}_p=\left(\begin{array}{ccc}\hfill \lambda \hfill & \hfill 1/p\hfill & \hfill (*/p)\hfill \\ \hfill 0\hfill & \hfill \lambda \hfill & \hfill (*)\hfill \\ \hfill (0)\hfill & \hfill (0)\hfill & \hfill B\hfill \end{array}\right)\to \left(\begin{array}{ccc}\hfill \lambda \hfill & \hfill 0\hfill & \hfill (0)\hfill \\ \hfill 0\hfill & \hfill \lambda \hfill & \hfill (*)\hfill \\ \hfill (0)\hfill & \hfill (0)\hfill & \hfill B\hfill \end{array}\right)=A_{\mathrm{\infty }}\text{.}$$

Or cette matrice n’est pas semblable à $T$ ni à $A$ car $\mathrm{rg}(A_{\mathrm{\infty }}-\lambda {\mathrm{I}}_n)\ne \mathrm{rg}(T-\lambda {\mathrm{I}}_n)$.
Ainsi, il existe une suite de matrices semblables à $A$ qui converge vers une matrice qui n’est pas semblable à $A$, la classe de similitude de $A$ n’est pas fermée.

Cas: $A\in {ℳ}_n(ℝ)$. Si $A$ est diagonalisable dans $ℂ$ alors toute limite $A_{\mathrm{\infty }}$ d’une suite de la classe de similitude de $A$ est semblable à $A$ dans ${ℳ}_n(ℂ)$. Soit $P\in {\mathrm{GL}}_n(ℂ)$ telle que $P^{-1}AP=A_{\mathrm{\infty }}$. On a alors $AP=P{A}_{\mathrm{\infty }}$. En introduisant les parties réelles et imaginaires de $P$, on peut écrire $P=Q+\mathrm{i}R$ avec $Q,R\in {ℳ}_n(ℝ)$.
L’identité $AP=P{A}_{\mathrm{\infty }}$ avec $A$ et $A_{\mathrm{\infty }}$ réelles entraîne $AQ=Q{A}_{\mathrm{\infty }}$ et $AR=R{A}_{\mathrm{\infty }}$.
Puisque la fonction polynôme $t\mapsto \det (Q+tR)$ n’est pas nulle (car non nulle en $\mathrm{i}$), il existe $t\in ℝ$ tel que $P^{\prime }=Q+tR\in {\mathrm{GL}}_n(ℝ)$ et pour cette matrice $A{P}^{\prime }=P^{\prime }{A}_{\mathrm{\infty }}$.
Ainsi, les matrices $A$ et $A_{\mathrm{\infty }}$ sont semblables dans ${ℳ}_n(ℝ)$.
Si $A$ n’est pas diagonalisable dans $ℂ$.
Il existe une valeur propre complexe $\lambda$ pour laquelle $\mathrm{Ker}{(A-\lambda {\mathrm{I}}_2)}^2\ne \mathrm{Ker}(A-\lambda {\mathrm{I}}_2)$.
Pour $X_2\in \mathrm{Ker}{(A-\lambda {\mathrm{I}}_2)}^2\setminus \mathrm{Ker}(A-\lambda {\mathrm{I}}_2)$ et $X_1=(A-\lambda {\mathrm{I}}_2)X_2$, la famille $(X_1,X_2)$ vérifie $A{X}_1=\lambda X_1$ et $A{X}_2=\lambda X_2+X_1$.
Si $\lambda \in ℝ$, il suffit de reprendre la démonstration qui précède.
Si $\lambda \in ℂ\setminus ℝ$, on peut écrire $\lambda =a+\mathrm{i}b$ avec $b\in {ℝ}^{*}$.
Posons $X_3={\overline{X}}_1$ et $X_4={\overline{X}}_2$.
La famille $(X_1,X_2,X_3,X_4)$ est libre car $\lambda \ne \overline{\lambda }$.
Introduisons ensuite $Y_1=\mathrm{Re}(X_1)$, $Y_2=\mathrm{Re}(X_2)$, $Y_3=\mathrm{Im}(X_1)$ et $Y_4=\mathrm{Im}(X_2)$.
Puisque ${\mathrm{Vect}}_{ℂ}(Y_1,\mathrm{\dots },Y_4)={\mathrm{Vect}}_{ℂ}(X_1,\mathrm{\dots },X_4)$, la famille $(Y_1,\mathrm{\dots },Y_4)$ est libre et peut donc être complétée en une base.
On vérifie par le calcul $A{Y}_1=a{Y}_1-b{Y}_3$, $A{Y}_2=a{Y}_2-b{Y}_4+Y_1$, $A{Y}_3=a{Y}_3+b{Y}_1$ et $A{Y}_4=b{Y}_2+a{Y}_4+Y_3$. et l’on obtient que la matrice $A$ est semblable dans ${ℳ}_n(ℝ)$ à la matrice

$$\left(\begin{array}{cc}\hfill T\hfill & \hfill *\hfill \\ \hfill O\hfill & \hfill B\hfill \end{array}\right)$$

avec

$$T=\left(\begin{array}{cccc}\hfill a\hfill & \hfill 1\hfill & \hfill b\hfill & \hfill 0\hfill \\ \hfill 0\hfill & \hfill a\hfill & \hfill 0\hfill & \hfill b\hfill \\ \hfill -b\hfill & \hfill 0\hfill & \hfill a\hfill & \hfill 1\hfill \\ \hfill 0\hfill & \hfill -b\hfill & \hfill 0\hfill & \hfill a\hfill \end{array}\right)\text{.}$$

Pour $P_p=\mathrm{diag}(p\mathrm{,1},p\mathrm{,1},\mathrm{\dots }1)$, on obtient

$$P_p^{-1}T{P}_p\to \left(\begin{array}{cc}\hfill T_{\mathrm{\infty }}\hfill & \hfill {*}^{\prime }\hfill \\ \hfill O\hfill & \hfill B\hfill \end{array}\right)=A_{\mathrm{\infty }}$$

avec

$$T_{\mathrm{\infty }}=\left(\begin{array}{cccc}\hfill a\hfill & \hfill 0\hfill & \hfill b\hfill & \hfill 0\hfill \\ \hfill 0\hfill & \hfill a\hfill & \hfill 0\hfill & \hfill b\hfill \\ \hfill -b\hfill & \hfill 0\hfill & \hfill a\hfill & \hfill 0\hfill \\ \hfill 0\hfill & \hfill -b\hfill & \hfill 0\hfill & \hfill a\hfill \end{array}\right)\text{.}$$

Or dans ${ℳ}_n(ℂ)$, la matrice $A_{\mathrm{\infty }}$ est semblable est à $\mathrm{diag}(\lambda ,\lambda ,\overline{\lambda },\overline{\lambda },B)$ qui n’est pas semblable à $A$ pour des raisons de dimensions analogues à ce qui a déjà été vu.
Les matrices réelles $A$ et $A_{\mathrm{\infty }}$ ne sont pas semblables dans ${ℳ}_n(ℂ)$ ni a fortiori dans ${ℳ}_n(ℝ)$.
On en déduit que la classe de similitude de $A$ n’est pas fermée