Par Sarrus,

• (a)

  Si $(a,b,c)\ne (\mathrm{0,0,0})$ alors $a^2+b^2+c^2>0$ et la matrice $A$ n’est pas diagonalisable sur $ℝ$ car son polynôme caractéristique n’est pas scindé.
  Si $(a,b,c)=(\mathrm{0,0,0})$ alors $A$ est la matrice nulle.

• (b)

  Si $(a,b,c)\ne (\mathrm{0,0,0})$ alors la matrice $A$ diagonalisable dans ${ℳ}_3(ℂ)$ car possède trois valeurs propres distinctes à savoir $0$ et $\pm i\sqrt{a^2+b^2+c^2}$.
  Si $(a,b,c)=(\mathrm{0,0,0})$ alors $A$ est la matrice nulle.

• (c)

  Puisque 0 est la seule valeur propre réelle de $A$ et puisque $B$ est inversible si, et seulement si, $-\lambda$ n’est pas valeur propre de $A$, on peut conclure que $B$ est inversible pour tout $\lambda \ne 0$.

• (d)

  Puisque le polynôme caractéristique est annulateur de $A$, on a

  $$A^3+\left(a^2+b^2+c^2\right)A={\mathrm{O}}_3$$

  donc

  $${(B-\lambda {\mathrm{I}}_3)}^3+(a^2+b^2+c^2)(B-\lambda {\mathrm{I}}_3)={\mathrm{O}}_3\text{.}$$

  Il suffit de développer et de réorganiser pour obtenir une expression du type

  $$B\left(u{B}^2+vB+w{\mathrm{I}}_3\right)={\mathrm{I}}_3$$

  et conclure

  $$B^{-1}=u{B}^2+vB+w{\mathrm{I}}_3=\alpha A^2+\beta A+\gamma {\mathrm{I}}_3\text{.}$$

L’implication directe est immédiate: elle découle de la stabilité par produit de l’espace des matrices triangulaires supérieures. Inversement, supposons $A^k$ triangulaire supérieure pour tout $k\ge 2$. Introduisons le polynôme caractéristique de $A$

Puisque celui-ci est annulateur de $A$, on peut écrire

En multipliant la relation par $A$ et en réorganisant

et la matrice $A$ est donc triangulaire supérieure.
Pour

nous obtenons un contre-exemple où $A^k={\mathrm{O}}_2$ pour tout $k\ge 2$.

Considérons $T:P(X)\mapsto P(X+1)$. $T$ est un endomorphisme de ${ℝ}_{n-1}[X]$ qui est annulé par son polynôme caractéristique de la forme

Cela fournit directement la propriété voulue.

• (a)

  Le polynôme caractéristique de $f$ est un polynôme de degré $n$ annulant $f$. Ainsi, $f^n\in \mathrm{Vect}(\mathrm{Id},f,\mathrm{\dots },f^{n-1})$. Par récurrence, on montre alors que pour tout $m\ge n$, $f^m\in \mathrm{Vect}(\mathrm{Id},f,\mathrm{\dots },f^{n-1})$.
  Par suite, $f^n(x),\mathrm{\dots },f^{N-1}(x)\in \mathrm{Vect}(x,f(x),\mathrm{\dots },f^{n-1}(x))$ puis $E=\mathrm{Vect}(x,f\left(x\right),\mathrm{\dots },f^{N-1}(x))$ donne $E=\mathrm{Vect}(x,f(x),\mathrm{\dots },f^{n-1}(x))$. La famille $(x,f(x),\mathrm{\dots },f^{n-1}(x))$ est alors génératrice et formée de $n=dimE$ vecteurs de $E$, c’est donc une base de $E$.

• (b)

  Les polynômes en $f$ commute avec $f$.

  Inversement, supposons que $g\in ℒ(E)$ commute avec $f$. Puisque $g(x)\in E$, on peut écrire

  $$g(x)=a_{0}x+a_{1}f(x)+\mathrm{\cdots }+a_{n-1}{f}^{n-1}(x)\text{.}$$

  Puisque $f$ et $g$ commutent, on a encore

  $$g(f^k(x))=a_0{f}^k(x)+a_1{f}^{k+1}(x)+\mathrm{\cdots }+a_{n-1}{f}^{n+k-1}(x)$$

  de sorte que les endomorphismes $g$ et $a_0\mathrm{Id}+a_{1}f+\mathrm{\cdots }+a_{n-1}{f}^{n-1}$ coïncident sur une base de $E$ et c’est donc égaux. Au final, $g$ est un polynôme en $f$.

Puisque les entiers $\det (A)$ et $\det (B)$ sont premiers entre eux, on peut écrire par l’égalité de Bézout

On écrit ${\chi }_A(X)=X{Q}_A(X)+{(-1)}^n\det (A)$ et de même ${\chi }_B(X)$ (ces écritures sont possibles car le déterminant est au signe près le coefficient constant d’un polynôme caractéristique).
Posons alors

Puisque ${\chi }_A$ et ${\chi }_B$ sont à coefficients entiers, on a $U,V\in {ℳ}_n(\mathbb{Z})$.
Puisque ${\chi }_A$ et ${\chi }_B$ sont annulateurs, on a

On observe alors

Remarquons que prendre

était sans doute plus simple…

• (a)

  Méthode: On vérifie l’identité pour $P=X^k$ avec $k\in \mathbb{N}$ avant de généraliser à tout polynôme.

  Montrons par récurrence $A^{k}M=M{B}^k$ pour tout $k\in \mathbb{N}$.

  Lorsque $k=0$, la relation $A^{0}M=M{B}^0$ se relit simplement $M=M$.

  Supposons la propriété vraie au rang $k\ge 0$. Au rang suivant,

  $$A^{k+1}M=A\left(A^{k}M\right)=A\left(M{B}^k\right)=(AM)B^k=(MB)B^k=M{B}^{k+1}\text{.}$$

  La récurrence est établie.

  Considérons ensuite $P$ un polynôme de $ℂ[X]$. En introduisant ses coefficients, on peut écrire

  $$P=a_0+a_{1}X+\mathrm{\cdots }+a_N{X}^N=\sum _{k=0}^N{a}_k{X}^k$$

  et alors

  $$P(A)M=\sum _{k=0}^N{a}_k{A}^{k}M=\sum _{k=0}^N{a}_{k}M{B}^k=MP(B)\text{.}$$

• (b)

  Méthode: On considère le polynôme $P={\chi }_B$ qui est annulateur de $B$.

  Pour $P={\chi }_B$, la relation $P(A)M=MP(B)$ entraîne $P(A)M={\mathrm{O}}_n$. La matrice $P(A)$ ne peut alors pas être inversible car, sinon, $M={\left(P(A)\right)}^{-1}P(A)M={\mathrm{O}}_n$ ce que le sujet exclut. On en déduit la nullité du déterminant de $P(A)$.

  Or l’étude est menée dans le cadre des nombres complexes et le polynôme caractéristique de $B$ peut se factoriser

  $$P=\prod _{i=1}^n(X-{\mu }_i)$$

  avec ${\mu }_i$ les valeurs propres de $B$ comptées avec multiplicité.

  L’égalité $\det \left(P(A)\right)=0$ donne alors

  $$\det \left(\prod _{i=1}^n(A-{\mu }_i{\mathrm{I}}_n)\right)=\prod _{i=1}^n\underset{\begin{array}{c}={(-1)}^n{\chi }_A({\mu }_i)\end{array}}{\underbrace{\det (A-{\mu }_i{\mathrm{I}}_n)}}=0\text{.}$$

  Par conséquent, il existe $i\in ⟦1;n⟧$ tel que $\det (A-{\mu }_i{\mathrm{I}}_n)=0$. Le scalaire ${\mu }_i$ est alors valeur propre de $A$: les matrices $A$ et $B$ ont une valeur propre commune¹¹ 1 Cette étude sera généralisée dans le sujet 4986..

• (c)

  Méthode: Une matrice et sa transposée ont les mêmes valeurs propres.

  Soit $\lambda$ une valeur propre commune à $A$ et $B$. Il existe une colonne $X\in {ℳ}_{n\mathrm{,1}}(ℂ)$ non nulle telle que $AX=\lambda X$.

  Puisque les valeurs propres de $B$ sont aussi celles de $B^{\top }$, il existe une colonne $Y\in {ℳ}_{n\mathrm{,1}}(ℂ)$ non nulle telle que $B^{\top }Y=\lambda Y$ soit encore $Y^{\top }B=\lambda Y^{\top }$.

  Considérons alors $M=X{Y}^{\top }$.

  La matrice $M$ est élément de ${ℳ}_n(ℂ)$ et son coefficient d’indice $(i,j)$ est $x_i{y}_j$. Les colonnes $X$ et $Y$ étant non nulles, il existe au moins un indice $(i,j)$ tel que $x_i{y}_j\ne 0$: la matrice $M$ n’est pas nulle.

  Au surplus,

  $$AM=AX{Y}^{\top }=(\lambda X)Y^{\top }=\lambda M\mathit{\hspace{1em}}\text{et}\mathit{\hspace{1em}}MB=X{Y}^{\top }B=X(\lambda Y^{\top })=\lambda M\text{.}$$

  On a donc déterminé $M\in {ℳ}_n(ℂ)$ non nulle telle que $AM=MB$.

• (a)

  Soit $P\in {ℂ}_n[X]$ que l’on écrit

  $$P=\sum _{k=0}^n{a}_k{X}^k\text{ avec }{a}_0,\mathrm{\dots },a_n\in ℂ\text{.}$$

  Par combinaison linéaire,

  $$\mathrm{tr}\left(P(M)\right)=\mathrm{tr}\left(\sum _{k=0}^n{a}_k{M}^k\right)=\sum _{k=0}^n{a}_k\mathrm{tr}\left(M^k\right)=a_0\mathrm{tr}({\mathrm{I}}_n)=nP(0)\text{.}$$

• (b)

  Considérons $P={\chi }_M\in {ℂ}_n[X]$. Par le théorème de Cayley-Hamilton, ${\chi }_M(M)={\mathrm{O}}_n$ donc $\mathrm{tr}\left({\chi }_M(M)\right)=0$. Par ce qui précède, il vient ${\chi }_M(0)=0$. Or

  $${\chi }_M(0)=\det (-M)={(-1)}^n\det (M)\text{.}$$

  La matrice $M$ n’est donc pas inversible.

• (c)

  Soit $P_{\lambda }\in {ℂ}_n[X]$ un polynôme s’annulant sur toutes les valeurs propres de $M$ sauf $\lambda$ où $P_{\lambda }$ prend la valeur $1$. Un tel polynôme existe, il suffit de considérer

  $$P_{\lambda }=\prod _{\mu \in \mathrm{Sp}(M)\setminus \{\lambda \}}\frac{X-\mu }{\lambda -\mu }\text{.}$$

  Pour ce polynôme, on a $\mathrm{tr}\left(P_{\lambda }(M)\right)=n{P}_{\lambda }(0)=0$ car $0$ est une valeur propre de $M$ puisque la matrice $M$ n’est pas inversible.

  Parallèlement, $\mathrm{tr}\left(P_{\lambda }(M)\right)$ est la somme des valeurs propres de $P_{\lambda }(M)$ comptées avec multiplicité. Par trigonalisation de la matrice $M$, on obtient une trigonalisation de $P_{\lambda }(M)$ qui conduit à

  $$\mathrm{tr}\left(P_{\lambda }(M)\right)=m_{\lambda }(M)\text{.}$$

  C’est absurde car $m_{\lambda }(M)>0$.

• (d)

  Seule $0$ est valeur propre de $M$ donc $M$ est semblable à une matrice triangulaire supérieure stricte. Par conséquent, la matrice $M$ est nilpotente.