Posons $r=\mathrm{rg}(A)$ et $s=\mathrm{rg}(B)$. Les matrices $A$ et $B$ sont respectivement équivalentes aux matrices

$$J_r=\left(\begin{array}{cc}\hfill {\mathrm{I}}_r\hfill & \hfill {\mathrm{O}}_{r,n-r}\hfill \\ \hfill {\mathrm{O}}_{n-r,t}\hfill & \hfill {\mathrm{O}}_{n-r}\hfill \end{array}\right)\mathit{\hspace{1em}}\text{et}\mathit{\hspace{1em}}{J}_s^{\prime }=\left(\begin{array}{cc}\hfill {\mathrm{O}}_{n-s}\hfill & \hfill {\mathrm{O}}_{n-s,s}\hfill \\ \hfill {\mathrm{O}}_{s,n-s}\hfill & \hfill {\mathrm{I}}_s\hfill \end{array}\right)\text{.}$$

Il existe donc $P,Q,R,S\in {\mathrm{GL}}_n(ℝ)$ telles que

$$PAQ=J_r\mathit{\hspace{1em}}\text{et}\mathit{\hspace{1em}}RBS=J_s^{\prime }$$

et alors

$$PAQ+RBS=J_r+J_s^{\prime }$$

qui est une matrice de rang $\min (n,r+s)$.
On peut aussi écrire

$$(R^{-1}P)A+B(S{Q}^{-1})=R^{-1}(J_r+J_s^{\prime })Q^{-1}$$

et en posant $U=R^{-1}P$ et $V=S{Q}^{-1}$, on obtient $U,V\in {\mathrm{GL}}_n(ℝ)$ telles que

$$\mathrm{rg}(UA+BV)=\min (n,r+s)\text{.}$$

Si $r+s\ge n$ alors $\min (n,r+s)=n$ et ce qui précède conduit à une matrice inversible.

Si $f$ est bijectif (nécessairement $n=p$), il suffit de composer de part et d’autre par $f^{-1}$ pour écrire

	$f\circ g\circ g=0$	$\iff f\circ g=0$
		$\iff g=0\text{.}$

Dans des bases adaptées, l’application linéaire $f$ peut être figurée par la matrice $J_r$ canonique de rang $r$ de type $(n,p)$. Par représentation matricielle, l’espace $H$ est alors isomorphe à

$$\{M\in {ℳ}_{p,n}(ℝ)|J_{r}M{J}_r={\mathrm{O}}_n\}\text{.}$$

Un calcul par blocs, montre que les matrices solutions sont celles de la forme

$$M=\left(\begin{array}{cc}\hfill A\hfill & \hfill B\hfill \\ \hfill C\hfill & \hfill D\hfill \end{array}\right)\text{ avec }A={\mathrm{O}}_r\text{.}$$

La dimension de $H$ s’en déduit.

Soient $(e_1,\mathrm{\dots },e_n)$ une base de $E$ et $u_{i,j}$ l’endomorphisme de $E$ envoyant $e_j$ sur $e_i$ et les autres vecteurs de bases sur $0_E$ ($u_{i,j}$ est l’endomorphisme figuré par la matrice élémentaire $E_{i,j}$).

On peut écrire

$$f=\sum _{k,\mathrm{\ell }=1}^n{a}_{k,\mathrm{\ell }}{u}_{k,\mathrm{\ell }}$$

avec $A=(a_{k,\mathrm{\ell }})$ la matrice figurant $f$ dans la base $(e_1,\mathrm{\dots },e_n)$.

Sachant $u_{i,j}\circ u_{k,\mathrm{\ell }}={\delta }_{j,k}{u}_{i,\mathrm{\ell }}$, il vient

$$u_{i,j}\circ f=\sum _{\mathrm{\ell }=1}^n{a}_{j,\mathrm{\ell }}{u}_{i,\mathrm{\ell }}$$

puis

$$f\circ u_{i,j}\circ f=\sum _{k=1}^n\sum _{\mathrm{\ell }=1}^n{a}_{k,i}{a}_{j,\mathrm{\ell }}{u}_{k,\mathrm{\ell }}\text{.}$$

La coordonnée selon $u_{i,j}$ de $\phi (u_{i,j})$ est donc $a_{i,i}{a}_{j,j}$. On en déduit

$$\mathrm{tr}(\phi )=\sum _{i,j=1}^n{a}_{i,i}{a}_{j,j}=\left(\sum _{i=1}^n{a}_{i,i}\right)\left(\sum _{j=1}^n{a}_{j,j}\right)={\left(\mathrm{tr}(f)\right)}^2\text{.}$$