• (a)

  On vérifie l’identité en posant le produit par blocs.

• (b)

  Si $A$ et $B$ sont inversibles alors

  $$(A*B)(A^{-1}*B^{-1})={\mathrm{I}}_n*{\mathrm{I}}_n={\mathrm{I}}_{n^2}$$

  donc $A*B$ est inversible.

  Si $A$ n’est pas inversible alors il existe $A^{\prime }\ne 0$ telle que $A{A}^{\prime }=0$ et alors

  $$(A*B)(A^{\prime }*{\mathrm{I}}_n)=0$$

  avec $A^{\prime }*{\mathrm{I}}_n\ne 0$ donc $A*B$ n’est pas inversible.

  Un raisonnement semblable s’applique dans le cas où $B$ n’est pas inversible.

• (c)

  Il existe $P,Q$ matrices inversibles telles que

  $$P^{-1}AP=\left(\begin{array}{ccc}\hfill {\lambda }_1\hfill & \hfill \hfill & \hfill (*)\hfill \\ \hfill \hfill & \hfill \mathrm{\ddots }\hfill & \hfill \hfill \\ \hfill (0)\hfill & \hfill \hfill & \hfill {\lambda }_n\hfill \end{array}\right)\mathit{\hspace{1em}}\text{et}\mathit{\hspace{1em}}{Q}^{-1}BQ=\left(\begin{array}{ccc}\hfill {\mu }_1\hfill & \hfill \hfill & \hfill (*)\hfill \\ \hfill \hfill & \hfill \mathrm{\ddots }\hfill & \hfill \hfill \\ \hfill (0)\hfill & \hfill \hfill & \hfill {\mu }_n\hfill \end{array}\right)$$

  avec ${\lambda }_i$ et ${\mu }_i$ les valeurs propres de $A$ et $B$.

  On observe alors que $(P^{-1}*Q^{-1})(A*B)(P*Q)=(P^{-1}AP)*(Q^{-1}BQ)$ est triangulaire supérieure de coefficients diagonaux ${\lambda }_i{\mu }_j$. Les valeurs propres de $A*B$ sont les produits des valeurs propres de $A$ et $B$.

• (d)

  On note que $P^{-1}*Q^{-1}={(P*Q)}^{-1}$ de sorte que $A*B$ est semblable à la matrice triangulaire précédente et donc

  $${\chi }_{A*B}=\prod _{i=1}^n\prod _{j=1}^n(X-{\lambda }_i{\mu }_j)\text{.}$$

  On en déduit

  $$\det (A*B)={\left(\det (A)\det (B)\right)}^n\text{.}$$

  La relation

  $$\mathrm{tr}(A*B)=\mathrm{tr}(A)\mathrm{tr}(B)$$

  est quant à elle immédiate par un calcul direct à partir de la définition de la loi $*$.

$(⟹)$ Supposons que $A$ et $B$ aient le même polynôme caractéristique. Les matrices $A$ et $B$ sont trigonalisables car de polynôme caractéristique scindé sur $ℂ$. Elles sont donc semblables à des matrices triangulaires supérieures $T$ et $U$:

$$A=PT{P}^{-1}\mathit{\hspace{1em}}\text{et}\mathit{\hspace{1em}}B=QU{Q}^{-1}\text{ avec }P,Q\in {\mathrm{GL}}_n(ℂ)\text{.}$$

Les coefficients diagonaux de $T$ et $U$ sont identiques à l’ordre près car ceux-ci sont les racines du polynôme caractéristique commun à $A$ et $B$.

Par similitude et correspondance des coefficients diagonaux

$$\mathrm{tr}\left(A^k\right)=\mathrm{tr}\left(T^k\right)=\mathrm{tr}\left(U^k\right)=\mathrm{tr}(B^k)\mathit{\hspace{1em}}\text{pour tout }k\in \mathbb{N}\text{.}$$

$(⟸)$ Supposons $\mathrm{tr}\left(A^k\right)=\mathrm{tr}\left(B^k\right)$ pour tout $k\in \mathbb{N}$.

Notons ${\lambda }_1,\mathrm{\dots },{\lambda }_n$ et ${\mu }_1,\mathrm{\dots },{\mu }_n$ les valeurs de $A$ et $B$ comptées avec multiplicité:

$${\chi }_A=(X-{\lambda }_1)\mathrm{\dots }(X-{\lambda }_n)\mathit{\hspace{1em}}\text{et}\mathit{\hspace{1em}}{\chi }_B=(X-{\mu }_1)\mathrm{\dots }(X-{\mu }_n)\text{.}$$

L’hypothèse proposée donne

$$\forall k\in \mathbb{N},{\lambda }_1^k+\mathrm{\cdots }+{\lambda }_n^k={\mu }_1^k+\mathrm{\cdots }+{\mu }_n^k\text{.}$$

Certains ${\lambda }_i$ peuvent correspondre à des ${\mu }_j$, on simplifie ceux-ci et, quitte à reprendre l’indexation, on obtient

$$\forall k\in \mathbb{N},{\lambda }_1^k+\mathrm{\cdots }+{\lambda }_r^k={\mu }_1^k+\mathrm{\cdots }+{\mu }_r^k$$

avec $\{{\lambda }_1,\mathrm{\dots },{\lambda }_r\}\cap \{{\mu }_1,\mathrm{\dots },{\mu }_r\}=\mathrm{\varnothing }$.

Par combinaison linéaire, pour tout polynôme $P\in ℂ[X]$,

$$P({\lambda }_1)+\mathrm{\cdots }+P({\lambda }_r)=P({\mu }_1)+\mathrm{\cdots }+P({\mu }_r)\text{.}$$

On peut définir un polynôme $P$ qui s’annule sur les ${\lambda }_i$ et prend la valeur $1$ sur les ${\mu }_i$. Pour celui-ci, il vient $0=r$. On en déduit que les ${\lambda }_i$ initiaux et les ${\mu }_i$ initiaux sont égaux à l’ordre près. Les polynômes caractéristiques de $A$ et $B$ sont donc identiques.

Notons ${\lambda }_1,\mathrm{\dots },{\lambda }_p$ et ${\mu }_1,\mathrm{\dots },{\mu }_q$ les valeurs propres deux à deux distinctes des matrices $A$ et $B$ respectivement.
L’hypothèse de travail donne

$$\forall m\in \mathbb{N},\sum _{j=1}^p{m}_{{\lambda }_j}(A){\lambda }_j^m=\sum _{j=1}^q{m}_{{\mu }_k}(B){\mu }_k^m\text{.}$$

Avec des notations étendues, cela donne

$$\forall m\in \mathbb{N},\sum _{\lambda \in \mathrm{Sp}(A)\cup \mathrm{Sp}(B)}{a}_{\lambda }{\lambda }^m=0$$

avec $a_{\lambda }=m_{\lambda }(A)-m_{\lambda }(B)$.
Indexons alors les valeurs propres de $A$ et $B$ de sorte que

$$\mathrm{Sp}(A)\cup \mathrm{Sp}(B)=\{{\alpha }_1,\mathrm{\dots },{\alpha }_r\}$$

avec ${\alpha }_1,\mathrm{\dots },{\alpha }_r$ deux à deux distinctes. On obtient donc

$$\forall m\in \mathbb{N},\sum _{j=1}^r{a}_{{\alpha }_j}{\alpha }_j^m=0\text{.}$$

Considérons alors la matrice carrée de Vandermonde

$$\left(\begin{array}{cccc}\hfill 1\hfill & \hfill 1\hfill & \hfill \mathrm{\cdots }\hfill & \hfill 1\hfill \\ \hfill {\alpha }_1\hfill & \hfill {\alpha }_2\hfill & \hfill \mathrm{\cdots }\hfill & \hfill {\alpha }_r\hfill \\ \hfill \mathrm{⋮}\hfill & \hfill \mathrm{⋮}\hfill & \hfill \hfill & \hfill \mathrm{⋮}\hfill \\ \hfill {\alpha }_1^{r-1}\hfill & \hfill {\alpha }_2^{r-1}\hfill & \hfill \mathrm{\cdots }\hfill & \hfill {\alpha }_r^{r-1}\hfill \end{array}\right)\text{.}$$

Celle-ci est inversible car les ${\alpha }_1,\mathrm{\dots },{\alpha }_r$ sont deux à deux distincts. Or les égalités qui précèdent donnent

$$\sum _{j=1}^r{a}_{{\alpha }_j}{C}_j=0$$

en notant $C_j$ les colonnes de la matrice de Vandermonde précédente.
On en déduit

$$\forall 1\le j\le r,a_{{\alpha }_j}=0$$

ce qui donne

$$\forall \lambda \in \mathrm{Sp}(A)\cup \mathrm{Sp}(B),m_{\lambda }(A)=m_{\lambda }(B)\text{.}$$

La matrice $A$ est trigonalisable et si l’on note ${\lambda }_1,\mathrm{\dots },{\lambda }_p$ ses valeurs propres distinctes alors

$$\mathrm{tr}(A^m)=\sum _{j=1}^p{\alpha }_j{\lambda }_j^m$$

avec ${\alpha }_j$ la multiplicité de la valeur propre ${\lambda }_j$.

Pour conclure, il suffit d’établir résultat suivant:
«  Soient ${\alpha }_1,\mathrm{\dots },{\alpha }_p\in {ℂ}^{*}$ et ${\lambda }_1,\mathrm{\dots },{\lambda }_p\in ℂ$ deux à deux distincts.
Si ${\sum }_{j=1}^p{\alpha }_j{\lambda }_j^m\underset{m\to +\mathrm{\infty }}{\overset{}{\to }}0$ alors $\forall 1\le j\le p,|{\lambda }_j|<1$   ».

Raisonnons pour cela par récurrence sur $p\ge 1$.

Pour $p=1$, la propriété est immédiate.

Supposons la propriété vraie au rang $p\ge 1$.

Soient ${\alpha }_1,\mathrm{\dots },{\alpha }_{p+1}\in {ℂ}^{*}$ et ${\lambda }_1,\mathrm{\dots },{\lambda }_{p+1}\in ℂ$ deux à deux distincts tels que

$$\sum _{j=1}^{p+1}{\alpha }_j{\lambda }_j^m\underset{m\to +\mathrm{\infty }}{\overset{}{\to }}0\text{.}$$

Par décalage d’indice, on a aussi

$$\sum _{j=1}^{p+1}{\alpha }_j{\lambda }_j^{m+1}\underset{m\to +\mathrm{\infty }}{\overset{}{\to }}0$$

${\lambda }_{p+1}\times (1)-(2)$ donne

$$\sum _{j=1}^p{\alpha }_j({\lambda }_{p+1}-{\lambda }_j){\lambda }_j^m\underset{m\to +\mathrm{\infty }}{\overset{}{\to }}0$$

qui se comprend encore

$$\sum _{j=1}^p{\beta }_j{\lambda }_j^m\underset{m\to +\mathrm{\infty }}{\overset{}{\to }}0$$

avec les ${\beta }_1,\mathrm{\dots },{\beta }_p$ non nuls.

Par hypothèse de récurrence, on a alors $\forall 1\le j\le p,{\lambda }_j<1$ pour tout $j\in \{1,\mathrm{\dots },p\}$.

On en déduit ${\sum }_{j=1}^p{\alpha }_j{\lambda }_j^m\underset{m\to +\mathrm{\infty }}{\overset{}{\to }}0$ et la relation $(1)$ donne alors ${\alpha }_{p+1}{\lambda }_{p+1}^m\underset{m\to +\mathrm{\infty }}{\overset{}{\to }}0$ d’où l’on tire $|{\lambda }_{p+1}|<1$.

La récurrence est établie.