• (a)

  $\mathrm{rg}(x_1,x_2,x_3)=3$ b) $\mathrm{rg}(x_1,x_2,x_3)=3$ c) $\mathrm{rg}(x_1,x_2,x_3)=2$

• (a)

  $\mathrm{rg}(f)=3$

• (b)

  $\mathrm{rg}(f)=2$

• (c)

  $\mathrm{rg}(f)=4$.

• (a)

  Dans la base canonique, la matrice de $u-v$ est de la forme

  $$\left(\begin{array}{cccc}\hfill 0\hfill & \hfill 2\hfill & \hfill \hfill & \hfill *\hfill \\ \hfill \hfill & \hfill 0\hfill & \hfill \mathrm{\ddots }\hfill & \hfill \hfill \\ \hfill \hfill & \hfill \hfill & \hfill \mathrm{\ddots }\hfill & \hfill 2n\hfill \\ \hfill 0\hfill & \hfill \hfill & \hfill \hfill & \hfill 0\hfill \end{array}\right)$$

  donc

  $$\mathrm{rg}(u-v)=(n+1)-1=n\text{.}$$

• (b)

  On peut aussi étudier le noyau de $u-v$ et par un argument de périodicité justifier que seuls les polynômes constants sont éléments de ce noyau.

• (a)

  Notons $A=\left(\begin{array}{ccc}\hfill 1\hfill & \hfill 1\hfill & \hfill 1\hfill \\ \hfill b+c\hfill & \hfill c+a\hfill & \hfill a+b\hfill \\ \hfill bc\hfill & \hfill ca\hfill & \hfill ab\hfill \end{array}\right)$,

  $$\mathrm{rg}(A)=\mathrm{rg}\left(\begin{array}{ccc}\hfill 1\hfill & \hfill 1\hfill & \hfill 1\hfill \\ \hfill 0\hfill & \hfill a-b\hfill & \hfill a-c\hfill \\ \hfill 0\hfill & \hfill c(a-b)\hfill & \hfill b(a-c)\hfill \end{array}\right)=\mathrm{rg}\left(\begin{array}{ccc}\hfill 1\hfill & \hfill 1\hfill & \hfill 1\hfill \\ \hfill 0\hfill & \hfill a-b\hfill & \hfill a-c\hfill \\ \hfill 0\hfill & \hfill 0\hfill & \hfill (b-c)(a-c)\hfill \end{array}\right)\text{.}$$

  En discutant les 5 cas possibles: $\mathrm{rg}(A)=\mathrm{Card}(\{a,b,c\})$.

• (b)

  Notons $A=\left(\begin{array}{ccc}\hfill 1\hfill & \hfill \cos (\theta )\hfill & \hfill \cos (2\theta )\hfill \\ \hfill \cos (\theta )\hfill & \hfill \cos (2\theta )\hfill & \hfill \cos (3\theta )\hfill \\ \hfill \cos (2\theta )\hfill & \hfill \cos (3\theta )\hfill & \hfill \cos (4\theta )\hfill \end{array}\right)$.

  $$\mathrm{rg}(A)=\mathrm{rg}\left(\begin{array}{ccc}\hfill 1\hfill & \hfill 0\hfill & \hfill 0\hfill \\ \hfill \cos (\theta )\hfill & \hfill {\sin }^2(\theta )\hfill & \hfill \sin (\theta )\sin (2\theta )\hfill \\ \hfill \cos (2\theta )\hfill & \hfill \sin (\theta )\sin (2\theta )\hfill & \hfill {\sin }^2(2\theta )\hfill \end{array}\right)\text{.}$$

  Si $\sin (\theta )=0$ alors $\mathrm{rg}(A)=1$.
  Si $\sin (\theta )\ne 0$ alors

  $$\mathrm{rg}(A)=\mathrm{rg}\left(\begin{array}{ccc}\hfill 1\hfill & \hfill 0\hfill & \hfill 0\hfill \\ \hfill \cos (\theta )\hfill & \hfill {\sin }^2(\theta )\hfill & \hfill 2\cos (\theta )\times {\sin }^2(\theta )\hfill \\ \hfill \cos (2\theta )\hfill & \hfill \sin (\theta )\sin (2\theta )\hfill & \hfill 2\cos (\theta )\times \sin (\theta )\sin (2\theta )\hfill \end{array}\right)=\mathrm{rg}\left(\begin{array}{cc}\hfill 1\hfill & \hfill 0\hfill \\ \hfill \cos (\theta )\hfill & \hfill {\sin }^2(\theta )\hfill \\ \hfill \cos (2\theta )\hfill & \hfill \sin (\theta )\sin (2\theta )\hfill \end{array}\right)=2\text{.}$$

  Résumons: Si $\theta \ne 0\left[\pi \right]$, $\mathrm{rg}(A)=2$, sinon $\mathrm{rg}(A)=1$.

• (c)

  Notons $A$ la matrice étudiée.
  Cas: $a=b=0$. $\mathrm{rg}(A)=0$ car la matrice $A$ est nulle.

  Cas: $a=0$ et $b\ne 0$. $\mathrm{rg}(A)=n$ car les $n$ colonnes de $A$ sont indépendantes.

  Cas: $a\ne 0$. En effectuant successivement $C_2\leftarrow a{C}_2-b{C}_1,C_3\leftarrow a^2{C}_3-b{C}_2,\mathrm{\dots },C_n\leftarrow a^{n-1}{C}_n-b{C}_{n-1}$, on obtient

  $$\mathrm{rg}(A)=\left(\begin{array}{cccc}\hfill a\hfill & \hfill \hfill & \hfill \hfill & \hfill \hfill \\ \hfill \hfill & \hfill \mathrm{\ddots }\hfill & \hfill \hfill & \hfill \hfill \\ \hfill \hfill & \hfill \hfill & \hfill a\hfill & \hfill \hfill \\ \hfill \hfill & \hfill \hfill & \hfill \hfill & \hfill a^n-{(-1)}^n{b}^n\hfill \end{array}\right)$$

  (il y a conservation du rang car $a\ne 0$).

  Donc, si $a^n={(-b)}^n$ alors $\mathrm{rg}(A)=n-1$, sinon $\mathrm{rg}(A)=n$.

Soient $u$ et $v$ les endomorphismes de ${ℝ}^3$ canoniquement associés à $A$ et $B$.
Comme $u\circ v=0$, on a $\mathrm{Im}(v)\subset \mathrm{Ker}(u)$, puis $\mathrm{rg}(v)=3-dim\mathrm{Ker}(v)\le dim\mathrm{Ker}(u)$.
Par suite, $dim\mathrm{Ker}(u)+dim\mathrm{Ker}(v)\ge 3$, puis $dim\mathrm{Ker}(u)\ge 2\text{ ou }dim\mathrm{Ker}(v)\ge 2$.
On a alors respectivement $\mathrm{rg}(u)=\mathrm{rg}(A)\le 1$ ou $\mathrm{rg}(v)=\mathrm{rg}(B)\le 1$.

On a $A(BA-{\mathrm{I}}_2)B=0$.
Or puisque $A$ est de rang 2, $\mathrm{Ker}(A)=\{0\}$ et donc $(BA-{\mathrm{I}}_2)B=0$.
De plus, puisque $B$ est de rang 2, $\mathrm{Im}(B)={ℳ}_2(ℝ)$ et donc $BA-{\mathrm{I}}_2=0$.

Commençons par noter que le neutre multiplicatif de $G$ n’est pas nécessairement ${\mathrm{I}}_n$. Par exemple, $G=\{{\mathrm{O}}_n\}$ est un groupe multiplicatif formé d’éléments de ${ℳ}_n(ℝ)$.
Notons $J$ le neutre du groupe $G$. Soit $A\in G$.

D’une part, $JA=A$ donc $\mathrm{rg}(A)=\mathrm{rg}(JA)\le \mathrm{rg}(J)$.

D’autre part, il existe $B\in M_n(ℝ)$ tel que $AB=J$ donc $\mathrm{rg}(J)=\mathrm{rg}(AB)\le \mathrm{rg}(A)$.

Finalement,

$$\forall A\in G,\mathrm{rg}(A)=\mathrm{rg}(J)\text{.}$$

On peut même être plus précis et constater que les matrices de $A$ ont toutes la même image.

Commençons par déterminer $f({\mathrm{I}}_n)$ et $f({\mathrm{O}}_n)$.
On a $f({\mathrm{I}}_n)=f({\mathrm{I}}_n^2)=f{({\mathrm{I}}_n)}^2$ donc $f({\mathrm{I}}_n)=0$ ou 1.
Si $f({\mathrm{I}}_n)=0$ alors pour tout $A\in {ℳ}_n(ℂ)$, $f(A)=f(A\times {\mathrm{I}}_n)=f(A)\times f({\mathrm{I}}_n)=0$ et donc $f$ est constante ce qui est exclu. Ainsi, $f({\mathrm{I}}_n)=1$.
Aussi $f({\mathrm{O}}_n)=f({\mathrm{O}}_n^2)=f({\mathrm{O}}_n)\times f({\mathrm{O}}_n)$ donc $f({\mathrm{O}}_n)=0$ ou 1.
Si $f({\mathrm{O}}_n)=1$ alors pour tout $A\in {ℳ}_n(ℂ)$, $f(A)=f({\mathrm{O}}_n)\times f(A)=f({\mathrm{O}}_n\times A)=f({\mathrm{O}}_n)=1$ et donc $f$ est constante ce qui est exclu. Ainsi, $f({\mathrm{O}}_n)=0$.
Si $A$ est inversible alors $f({\mathrm{I}}_n)=f(A\times A^{-1})$ donne $f(A)\times f(A^{-1})=1$ et donc $f(A)\ne 0$.
La réciproque est plus délicate.
Supposons $A$ non inversible et posons $r=\mathrm{rg}(A)$.
La matrice $A$ est équivalente à la matrice

$$J_r=\left(\begin{array}{cc}\hfill {\mathrm{I}}_r\hfill & \hfill {\mathrm{O}}_{r,n-r}\hfill \\ \hfill {\mathrm{O}}_{n-r,r}\hfill & \hfill {\mathrm{O}}_{n-r}\hfill \end{array}\right)$$

ce qui permet d’écrire $A=Q{J}_{r}P$ avec $P,Q$ inversibles. On a alors $f(A)=f(Q)f(J_r)f(P)$ et il suffit de montrer $f(J_r)=0$ pour conclure.
Par permutation des vecteurs de bases, la matrice $J_r$ est semblable à toute matrice diagonale où figure $r$ coefficients 1 et $n-r$ coefficients 0. En positionnant, pertinemment les coefficients 0, on peut former des matrices $A_1,\mathrm{\dots },A_p$ toutes semblables à $J_r$ vérifiant

$$A_1\mathrm{\dots }{A}_p={\mathrm{O}}_n\text{.}$$

On a alors

$$f(A_1)\mathrm{\dots }f(A_p)=0\text{.}$$

Or il est facile d’établir que si deux matrices sont semblables, la fonction $f$ prend les mêmes valeurs sur celles-ci. Par suite, $f(J_r)=f(A_1)=\mathrm{\dots }=f(A_p)$ et ainsi $f{(J_r)}^p=0$ puis enfin $f(J_r)=0$.

$(⟹)$ Si $M$ est inversible alors, pour toute matrice $A\in {ℳ}_n(ℝ)$, $\mathrm{rg}(AM)=\mathrm{rg}(A)$ et $\mathrm{rg}(MA)=\mathrm{rg}(A)$ car on ne modifie pas le rang d’une matrice en multipliant par une matrice inversible. On en déduit $\mathrm{rg}(AM)=\mathrm{rg}(MA)$. Si $M$ est la matrice nulle alors $\mathrm{rg}(AM)=\mathrm{rg}(MA)=0$ pour toute matrice $A\in {ℳ}_n(ℝ)$.

$(⟸)$ Supposons $\mathrm{rg}(AM)=\mathrm{rg}(MA)$ pour toute matrice $A\in {ℳ}_n(ℝ)$. Si la matrice $M$ n’est pas inversible, il existe une colonne $X$ non nulle telle que $MX=0$. Pour toute colonne $Y$, on considère alors $A=X{}^{t}Y\in {ℳ}_n(ℝ)$ et l’on a

$$\mathrm{rg}(MA)=\mathrm{rg}\left(MX{}^{t}Y\right)=0\text{ donc }\mathrm{rg}(X{}^{t}YM)=0\text{.}$$

Puisque la colonne $X$ n’est pas nulle, nécessairement la ligne ${}^{t}YM$ doit être nulle. Cela entraîne ${}^{t}MY=0$ pour toute colonne $Y$ et donc ${}^{t}M=0$. Ainsi, si la matrice $M$ n’est pas inversible, c’est la matrice nulle.