Supposons les variables aléatoires $X$ et $Y=f(X)$ indépendantes.
Il existe au moins une valeur $x$ par $X$ vérifiant $\mathrm{P}(X=x)>0$. En effet, la variable $X$ étant discrète $\mathrm{P}(\mathrm{\Omega })=1$ est la somme des probabilités des événements valeurs $(X=x)$. Considérons ensuite la valeur $y=f(x)$.

Or $(X=x)\subset (f(X)=y)$, donc

Cependant, les variables $X$ et $f(X)$ étant supposées indépendantes

Ainsi, l’événement $(f(X)=y)$ est presque sûr. La variable aléatoire $Y$ est donc presque sûrement constante. La réciproque est immédiate et donc $X$ et $Y=f(X)$ sont indépendantes si, et seulement si, $Y$ est presque sûrement constante.

• (a)

  Pour $n\in \mathbb{N}$, ${\theta }_n$ est une probabilité et donc ${\theta }_n\in [0;1]$. Si ${\theta }_n=1$ alors $\mathrm{P}(T=n)=\mathrm{P}(T\ge n)$ et donc $\mathrm{P}(T>n)=0$. Cela est exclut par les hypothèses.

• (b)

  Pour $n\in \mathbb{N}$, $\mathrm{P}(T=n)={\theta }_n\mathrm{P}(T\ge n)$ et $\mathrm{P}(T=n)+\mathrm{P}(T\ge n+1)=\mathrm{P}(T\ge n)$ donc

  $$\mathrm{P}(T\ge n+1)=(1-{\theta }_n)\mathrm{P}(T\ge n)\text{.}$$

  Sachant $\mathrm{P}(T\ge 0)=1$, on obtient

  $$\mathrm{P}(T\ge n)=\prod _{k=0}^{n-1}(1-{\theta }_k)\text{.}$$

  Puisque $\mathrm{P}(T\ge n)\underset{n\to +\mathrm{\infty }}{\overset{}{\to }}0$, il vient

  $$\sum _{k=0}^{n-1}\ln (1-{\theta }_k)=\ln \left(\prod _{k=0}^{n-1}(1-{\theta }_k)\right)\underset{n\to +\mathrm{\infty }}{\overset{}{\to }}-\mathrm{\infty }\text{.}$$

  Ainsi, il y a divergence de la série $\sum \ln (1-{\theta }_n)$.

  Si la suite ${({\theta }_n)}_{n\in \mathbb{N}}$ ne tend pas vers $0$, la série $\sum {\theta }_n$ est évidemment divergente.

  Si la suite ${({\theta }_n)}_{n\in \mathbb{N}}$ tend vers $0$ alors $\ln (1-{\theta }_n)\underset{n\to +\mathrm{\infty }}{\sim }-{\theta }_n$ et, par équivalence de séries à termes de signe constant, la série $\sum {\theta }_n$ diverge.

• (c)

  Analyse: Si $T$ est une variable aléatoire solution alors

  $$\mathrm{P}(T=n)=\mathrm{P}(T\ge n)-\mathrm{P}(T\ge n+1)={\theta }_n\prod _{k=0}^{n-1}(1-{\theta }_k)$$

  ce qui détermine entièrement la loi de $T$.

  Synthèse: Posons

  $$\forall n\in \mathbb{N},u_n={\theta }_n\prod _{k=0}^{n-1}(1-{\theta }_k)\text{.}$$

  On a

  $$\forall n\in \mathbb{N},u_n\ge 0\text{.}$$

  Vérifions aussi que la famille ${(u_n)}_{n\in \mathbb{N}}$ de somme égale à $1$.

  Introduisons

  $$P_n=\prod _{k=0}^{n-1}(1-{\theta }_k)\text{.}$$

  On a

  $$\ln (P_n)=\sum _{k=0}^{n-1}\ln (1-{\theta }_k)\underset{n\to +\mathrm{\infty }}{\overset{}{\to }}-\mathrm{\infty }\text{.}$$

  En effet, la série des $\ln (1-{\theta }_k)$ est divergente à terme négatifs (et l’affirmation est vraie que la suite $({\theta }_n)$ tend vers $0$ ou non).

  Aussi, $P_0=1$ et $P_n-P_{n+1}=u_n$, donc

  $$\sum _{k=0}^n{u}_k=P_0-P_{n+1}\underset{n\to +\mathrm{\infty }}{\overset{}{\to }}1\text{.}$$

  On peut alors définir une variable aléatoire $T$ à valeurs dans $\mathbb{N}$ dont la loi est déterminée par

  $$\forall n\in \mathbb{N},\mathrm{P}(T=n)=u_n={\theta }_n\prod _{k=0}^{n-1}(1-{\theta }_k)\text{.}$$

  On observe

  $$\mathrm{P}(T\ge n)=\sum _{k=n}^{+\mathrm{\infty }}{u}_k=P_n=\prod _{k=0}^{n-1}(1-{\theta }_k)>0$$

  et

  $$\mathrm{P}(T=n\mid T\ge n)={\theta }_n\text{.}$$

  La variable aléatoire $T$ est bien solution.

• (a)

  Soit $X$ une variable aléatoire suivant une loi de Bernoulli de paramètre $1/2$. Pour tout $m\in ]0;1[$,

  $$\mathrm{P}(X\le m)=\mathrm{P}(X=0)=\frac{1}{2}\mathit{\hspace{1em}}\text{et}\mathit{\hspace{1em}}\mathrm{P}(X\ge m)=\mathrm{P}(X=1)=\frac{1}{2}\text{.}$$

  Dans cet exemple toute valeur strictement comprise entre $0$ et $1$ est valeur médiane de la variable $X$. Notons que la valeur $m=0$ est aussi valeur médiane puisque

  $$\mathrm{P}(X\le 0)=\frac{1}{2}\mathit{\hspace{1em}}\text{et}\mathit{\hspace{1em}}\mathrm{P}(X\ge 0)=1\text{.}$$

  De même, $m=1$ est encore valeur médiane¹¹ 1 En revanche, si $X$ suit une loi de Bernoulli de paramètre $p\in [0;1]$ avec $p\ne 1/2$, alors $X$ admet une seule valeurs médiane qui est $0$ ou $1$ selon que $p>1/2$ ou $p<1/2$. de $X$.

• (b)

  Méthode: À l’aide d’une borne inférieure, on introduit la plus petite valeur $m$ vérifiant $\mathrm{P}(X\le m)\ge 1/2$.

  Posons

  $$A=\{x\in ℝ|\mathrm{P}(X\le x)\ge 1/2\}=\{x\in ℝ|f_X(x)\ge 1/2\}$$

  avec $f_X$ la fonction de répartition de la variable aléatoire $X$. L’ensemble $A$ est une partie de $ℝ$ non vide et minorée car

  $$\underset{x\to -\mathrm{\infty }}{lim}{f}_X(x)=0\mathit{\hspace{1em}}\text{et}\mathit{\hspace{1em}}\underset{x\to +\mathrm{\infty }}{lim}{f}_X(x)=1\text{.}$$

  Il est alors possible d’introduire $m=inf(A)$. Vérifions qu’il s’agit d’une valeur médiane de $X$.

  D’une part, par réalisation séquentielle d’une borne inférieure, il existe une suite $(x_n)$ d’éléments de $A$ qui tend vers $m$ par valeurs supérieures. La fonction de répartition $f_X$ étant continue à droite, on obtient²² 2 En particulier, $m$ est élément de $A$ et la croissance de $f_X$ entraîne que $A$ est l’intervalle $[m;+\mathrm{\infty }[$.

  $$\mathrm{P}(X\le m)=f_X(m)=\underset{n\to +\mathrm{\infty }}{lim}{f}_X(x_n)\ge \frac{1}{2}\text{.}$$

  D’autre part, pour tout $x<m$, on a $\mathrm{P}(X\le x)<1/2$ car $x$ n’appartient pas à $A$. On a donc

  $$\mathrm{P}(X>x)=1-\mathrm{P}(X\le x)>1/2$$

  et l’on en déduit

  $$\mathrm{P}(X\ge m)=\mathrm{P}\left(\bigcap _{n\in {\mathbb{N}}^{*}}(X>m-\frac{1}{n})\right)=\underset{n\to +\mathrm{\infty }}{lim}\mathrm{P}(X>m-\frac{1}{n})\ge \frac{1}{2}$$

  car, par continuité monotone, la probabilité d’une réunion croissante et la limite des probabilités des événements réunis.

  Finalement, $m$ est une³³ 3 On aurait aussi pu introduire $m^{\prime }=sup\{x\in ℝ|P(X\ge x)\ge 1/2\}$ et vérifier qu’il s’agit d’une valeur médiane de $X$. valeur médiane de $X$.

• (a)

  Pour tout $x\in 𝒳$, on a $-p(x)\log \left(p(x)\right)\ge 0$ car $p(x)\le 1$. On en déduit $H(X)\in {ℝ}_{+}$.
  Si $H(X)=0$ alors, par somme nulle de positifs, on a

  $$\forall x\in 𝒳,p(x)\log \left(p(x)\right)=0$$

  et donc

  $$\forall x\in 𝒳,p(x)=0\text{ ou }p(x)=1\text{.}$$

  Sachant que

  $$\sum _{x\in 𝒳}p(x)=\mathrm{P}(X\in 𝒳)=1$$

  on peut affirmer qu’il existe $x\in 𝒳$ tel que $p(x)=\mathrm{P}(X=x)=1$.
  La variable $X$ est alors presque sûrement constante.

• (b)

  Par définition

  $$H(X,Y)=-\sum _{(x,y)\in 𝒳\times 𝒴}\mathrm{P}(X=x,Y=y)\log \left(\mathrm{P}(X=x,Y=y)\right)\text{.}$$

  Or les variables $X$ et $Y$ étant indépendantes

  $$\mathrm{P}(X=x,Y=y)=\mathrm{P}(X=x)\mathrm{P}(Y=y)$$

  puis

  $$H(X,Y)=-\sum _{(x,y)\in 𝒳\times 𝒴}\mathrm{P}(X=x)\mathrm{P}(Y=y)(\log \left(\mathrm{P}(X=x)\right)+\log \left(\mathrm{P}(Y=y)\right))\text{.}$$

  On sépare la somme en deux et l’on somme tantôt d’abord en $x$, tantôt d’abord en $y$ et l’on obtient

  $$H(X,Y)=H(X)+H(Y)$$

  car

  $$\sum _{x\in 𝒳}\mathrm{P}(X=x)=\sum _{y\in 𝒴}\mathrm{P}(Y=y)=1\text{.}$$

• (c)

  On sait

  $$\mathrm{P}(X=x\mid Y=y)=\mathrm{P}(X=x,Y=y)\mathrm{P}(Y=y)$$

  donc

  	$\mathrm{P}(Y=y)H(X\mid Y=y)=-{\displaystyle \sum _{x\in 𝒳}}$	$\mathrm{P}(X=x,Y=y)\times$
  		$(\log \left(\mathrm{P}(X=x,Y=y)\right)-\log \left(\mathrm{P}(Y=y)\right))\text{.}$

  On sépare la somme en deux et l’on somme le résultat sur $y\in 𝒴$ pour obtenir

  $$\sum _{y\in 𝒴}\mathrm{P}(Y=y)H(X\mid Y=y)=H(X,Y)+\sum _{(x,y)\in 𝒳\times Y}\mathrm{P}(X=x,Y=y)\log \left(\mathrm{P}(Y=y)\right)\text{.}$$

  Or

  	${\displaystyle \sum _{(x,y)\in 𝒳\times Y}}$	$\mathrm{P}(X=x,Y=y)\log \left(\mathrm{P}(Y=y)\right)$
  		$={\displaystyle \sum _{y\in 𝒴}}{\displaystyle \sum _{x\in 𝒳}}\mathrm{P}(X=x,Y=y)\log \left(\mathrm{P}(Y=y)\right)$

  avec

  $$\sum _{x\in 𝒳}\mathrm{P}(X=x,Y=y)=\mathrm{P}(Y=y)$$

  donc

  $$\sum _{y\in 𝒴}\mathrm{P}(Y=y)H(X\mid Y=y)=H(X,Y)-H(Y)\text{.}$$