• (a)

  Cas: $D$ inversible. Sachant $C{D}^{\top }=D{C}^{\top }$, on a

  $$\left(\begin{array}{cc}\hfill A\hfill & \hfill B\hfill \\ \hfill C\hfill & \hfill D\hfill \end{array}\right)\left(\begin{array}{cc}\hfill D^{\top }\hfill & \hfill {\mathrm{O}}_n\hfill \\ \hfill -C^{\top }\hfill & \hfill {\mathrm{I}}_n\hfill \end{array}\right)=\left(\begin{array}{cc}\hfill A{D}^{\top }-B{C}^{\top }\hfill & \hfill B\hfill \\ \hfill {\mathrm{O}}_n\hfill & \hfill D\hfill \end{array}\right)$$

  et, en passant au déterminant, on obtient la relation

  $$\det \left(\begin{array}{cc}\hfill A\hfill & \hfill B\hfill \\ \hfill C\hfill & \hfill D\hfill \end{array}\right)\det (D^{\top })=\det \left(A{D}^{\top }-B{C}^{\top }\right)\det (D)$$

  puis la relation voulue sachant $\det (D)=\det (D^{\top })\ne 0$

• (b)

  Cas: $D$ non inversible. Posons $r=\mathrm{rg}(C)$. On peut écrire $C=P{J}_{r}Q$ avec $P,Q$ inversibles et $J_r$ la matrice (symétrique) dont tous les coefficients sont nuls sauf les $r$ premiers de la diagonale qui sont égaux à 1. Considérons alors $D^{\prime }=D+\lambda P{\left(Q^{\top }\right)}^{-1}$ pour $\lambda \in ℝ$.
  On peut écrire

  $$D^{\prime }=P\left(P^{-1}D{Q}^{\top }+\lambda {\mathrm{I}}_n\right){\left(Q^{\top }\right)}^{-1}\text{.}$$

  Si $-\lambda$ n’est pas valeur propre de $P^{-1}D{Q}^{\top }$, la matrice $D^{\prime }$ est inversible.
  Puisqu’une matrice n’a qu’un nombre fini de valeurs propres, la matrice $D^{\prime }$ est assurément inversible quand $\lambda \to 0^{+}$ avec $\lambda$ assez petit.
  De plus, $C{D}^{\prime \top }$ est symétrique car

  $$C{D}^{\prime \top }-D^{\prime }{C}^{\top }=C{D}^{\top }+\lambda P{J}_{r}Q{Q}^{-1}{P}^{\top }-D{C}^{\top }-\lambda P{\left(Q^{\top }\right)}^{-1}{Q}^{\top }{J}_r^{\top }{P}^{\top }=0\text{.}$$

  Par l’étude qui précède, on obtient

  $$\det \left(\begin{array}{cc}\hfill A\hfill & \hfill B\hfill \\ \hfill C\hfill & \hfill D^{\prime }\hfill \end{array}\right)=\det \left(A{D}^{\prime \top }-B{C}^{\top }\right)$$

  et en passant à la limite quand $\lambda \to 0^{+}$, on obtient

  $$\det \left(\begin{array}{cc}\hfill A\hfill & \hfill B\hfill \\ \hfill C\hfill & \hfill D\hfill \end{array}\right)=\det \left(A{D}^{\top }-B{C}^{\top }\right)\text{.}$$

Supposons pour commencer la matrice $A$ inversible.
Par opérations par blocs:

$$\left(\begin{array}{cc}\hfill A\hfill & \hfill C\hfill \\ \hfill B\hfill & \hfill D\hfill \end{array}\right)\left(\begin{array}{cc}\hfill I\hfill & \hfill -A^{-1}C\hfill \\ \hfill 0\hfill & \hfill I\hfill \end{array}\right)=\left(\begin{array}{cc}\hfill A\hfill & \hfill 0\hfill \\ \hfill B\hfill & \hfill D-B{A}^{-1}C\hfill \end{array}\right)\text{.}$$

On en déduit

$$\left|\begin{array}{cc}\hfill A\hfill & \hfill C\hfill \\ \hfill B\hfill & \hfill D\hfill \end{array}\right|=\det (D-B{A}^{-1}C)\det (A)=\det (DA-B{A}^{-1}CA)\text{.}$$

Or les matrices $A$ et $C$ commutent donc $A^{-1}$ et $C$ commutent aussi et

$$\left|\begin{array}{cc}\hfill A\hfill & \hfill C\hfill \\ \hfill B\hfill & \hfill D\hfill \end{array}\right|=\det (DA-BC)\text{.}$$

Supposons $A$ non inversible.
Pour $p$ assez grand, la matrice $A_p=A+\frac{1}{p}I$ est inversible et commute avec $C$ donc

$$\det \left(\begin{array}{cc}\hfill A_p\hfill & \hfill C\hfill \\ \hfill B\hfill & \hfill D\hfill \end{array}\right)=\det (D{A}_p-BC)\text{.}$$

En passant à la limite quand $p\to +\mathrm{\infty }$, la continuité du déterminant donne

$$\det \left(\begin{array}{cc}\hfill A\hfill & \hfill C\hfill \\ \hfill B\hfill & \hfill D\hfill \end{array}\right)=\det (DA-BC)\text{.}$$

Cas: La matrice $A$ inversible. Pour

$$P=\left(\begin{array}{cc}\hfill {\mathrm{I}}_n\hfill & \hfill -A^{-1}B\hfill \\ \hfill {\mathrm{O}}_n\hfill & \hfill {\mathrm{I}}_n\hfill \end{array}\right)$$

on a

$$MP=\left(\begin{array}{cc}\hfill A\hfill & \hfill {\mathrm{O}}_n\hfill \\ \hfill C\hfill & \hfill -C{A}^{-1}B+D\hfill \end{array}\right)\text{.}$$

On en déduit

$$\det (M)=\det (MP)=\det (A)\times \det (-C{A}^{-1}B+D)\text{.}$$

Or

$$\det (A)\times \det (-C{A}^{-1}B+D)=\det (AD-AC{A}^{-1}B)=\det (AD-BC)$$

car la matrice $C$ commute avec les matrices $A$ et $B$.
On en déduit

$$\det (M)=\det (AD-BC)\text{.}$$

Cas général: Pour $p\in {\mathbb{N}}^{*}$ assez grand, la matrice $A_p=A+1/p{\mathrm{I}}_n$ est inversible et les matrices $A_p,B,C,D$ commutent deux à deux. Si on pose

$$M_p=\left(\begin{array}{cc}\hfill A_p\hfill & \hfill B\hfill \\ \hfill C\hfill & \hfill D\hfill \end{array}\right)$$

l’étude qui précède donne

$$\det (M_p)=\det (A_{p}D-BC)\text{.}$$

En faisant tendre $p$ vers $+\mathrm{\infty }$, on obtient à la limite

$$\det (M)=\det (AD-BC)\text{.}$$

Il est alors immédiat de conclure que l’inversibilité de $M$ équivaut à celle de $AD-BC$.

On introduit

$$N=\left(\begin{array}{cc}\hfill A^{\prime \top }\hfill & \hfill {\mathrm{O}}_{p,n-p}\hfill \\ \hfill B^{\prime \top }\hfill & \hfill {\mathrm{I}}_{n-p}\hfill \end{array}\right)\text{.}$$

On a

$$MN=\left(\begin{array}{cc}\hfill A{A}^{\prime \top }+B{B}^{\prime \top }\hfill & \hfill B\hfill \\ \hfill C{A}^{\prime \top }+D{B}^{\prime \top }\hfill & \hfill D\hfill \end{array}\right)\text{.}$$

Or

$$M{\left(\mathrm{Com}(M)\right)}^{\top }=\left(\begin{array}{cc}\hfill A{A}^{\prime \top }+B{B}^{\prime \top }\hfill & \hfill A{C}^{\prime \top }+B{D}^{\prime \top }\hfill \\ \hfill C{A}^{\prime \top }+D{B}^{\prime \top }\hfill & \hfill C{C}^{\prime \top }+D{D}^{\prime \top }\hfill \end{array}\right)={\left(\det (M)\right)}^n{\mathrm{I}}_p$$

donc

$$MN=\left(\begin{array}{cc}\hfill \det (M){\mathrm{I}}_p\hfill & \hfill B\hfill \\ \hfill {\mathrm{O}}_{n-p,p}\hfill & \hfill D\hfill \end{array}\right)\text{.}$$

En passant cette relation au déterminant, on obtient

$$\det (M)\times \det \left(A^{\prime \top }\right)=\det {(M)}^p\det (D)$$

puis facilement la relation proposée sachant $\det (M)\ne 0$.