Exercice 1 5632 Correction

Soient $X$ et $Y$ deux variables aléatoires $L^{2}$ . Établir

{(Cov (X, Y))}^{2} \leq V (X) V (Y) .

Solution

Par l’inégalité de Cauchy-Schwarz, on sait que pour toutes variables $X, Y \in L^{2}$ ,

E {(X Y)}^{2} \leq E (X^{2}) E (Y^{2}) .

Il suffit d’appliquer ce résultat aux variables $X^{'} = X - E (X)$ et $Y^{'} = Y - E (Y) \in L^{2}$ pour obtenir

	${(Cov (X, Y))}^{2}$	$= E {((X - E (X)) (Y - E (Y)))}^{2}$
		$\leq E ({(X - E (X))}^{2}) E ({(Y - E (Y))}^{2}) = V (X) V (Y) .$

Exercice 2 5339 Correction

Pour $X \in L^{2} (Ω)$ , on note $σ (X) = \sqrt{V (X)}$ l’écart-type de la variable $X$ .

Pour $X, Y \in L^{2} (Ω)$ , comparer $σ (X + Y)$ et $σ (X) + σ (Y)$ .

Solution

Soient $X, Y \in L^{2} (Ω)$ . On sait $X + Y \in L^{2} (Ω)$ et

V (X + Y) = V (X) + 2 Cov (X, Y) + V (Y) .

Or, par l’inégalité de Cauchy-Schwarz,

| Cov (X, Y) | \leq \sqrt{V (X)} \sqrt{V (Y)}

et donc

V (X + Y) \leq V (X) + 2 \sqrt{V (X)} \sqrt{V (Y)} + V (Y) = {(\sqrt{V (X)} + \sqrt{V (Y)})}^{2} .

On en déduit

σ (X + Y) \leq σ (X) + σ (Y) .

Exercice 3 5862 Correction

Soit ${(X_{n})}_{n \geq 1}$ une suite de variables aléatoires indépendantes et identiquement distribuées selon une loi de Bernoulli de paramètre $p \in] 0; 1 [$ .

Pour $n \geq 1$ , on pose $Y_{n} = X_{n} X_{n + 1}$ et $S_{n} = Y_{1} + \dots + Y_{n}$ .

(a)

Identifier la loi de $Y_{n}$ .
(b)

Calculer l’espérance et la variance de $S_{n}$ .
(c)

Soit $ε > 0$ . Justifier

$P (| \frac{S_{n}}{n} - p^{2} | \geq ε) \to_{n \to + \infty}^{} 0 .$

Solution

(a)

La variable $Y_{n}$ prend ses valeurs dans ${0, 1}$ et, par indépendance,

$P (Y_{n} = 1) = P (X_{n} = 1, X_{n + 1} = 1) = P (X_{n} = 1) P (X_{n + 1} = 1) = p^{2} .$

La variable $Y_{n}$ suit une loi de Bernoulli de paramètre $p^{2}$ .

(b)

Notons que les variables $Y_{n}$ ne sont pas indépendantes: on ne peut pas affirmer que $S_{n}$ suit une loi binomiale de paramètres $n$ et $p^{2}$ . Cependant, par linéarité,

E (S_{n}) = E (Y_{1}) + \dots + E (Y_{n}) = n p^{2} .

Aussi,

	$Cov (Y_{n}, Y_{n + 1})$	$= E (Y_{n} Y_{n + 1}) - E (Y_{n}) E (Y_{n + 1})$
		$= P (Y_{n} Y_{n + 1} = 1) - p^{2} \times p^{2}$
		$= P (X_{n} = 1) P (X_{n + 1} = 1) P (X_{n + 2} = 1) - p^{4} = p^{3} - p^{4}$

alors que, par indépendance par paquets,

\forall k \geq 2, Cov (Y_{n}, Y_{n + k}) = 0 .

On en déduit

	$V (S_{n})$	$= \sum_{i = 1}^{n} V (Y_{i}) + 2 \sum_{1 \leq i < j \leq n} Cov (Y_{i}, Y_{j})$
		$= \sum_{i = 1}^{n} V (Y_{i}) + 2 \sum_{i = 1}^{n - 1} Cov (Y_{i}, Y_{i + 1})$
		$= \sum_{i = 1}^{n} p^{2} (1 - p^{2}) + 2 (n - 1) (p^{3} - p^{4})$
		$= n p^{2} + 2 (n - 1) p^{3} - (3 n - 2) p^{4} .$

(c)

Par l’inégalité de Bienaymé-Tchebychev,

$P (| \frac{S_{n}}{n} - p^{2} | \geq ε) = P (| S_{n} - E (S_{n}) | \geq n ε) \leq \frac{V (S_{n})}{n^{2} ε^{2}} \to_{n \to + \infty}^{} 0 .$

Exercice 4 5001

Soient $X_{1}$ et $X_{2}$ deux variables aléatoires réelles suivant toutes les deux la loi d’une variable aléatoire réelle $X$ bornée.

On suppose que $X_{1} + X_{2}$ suit la loi de la variable $2 X$ . Montrer que $X_{1} = X_{2}$ presque sûrement¹¹ 1 Cela signifie $P (X_{1} = X_{2}) = 1$ ..

Exercice 5 5320 Correction

L’univers $Ω$ est l’ensemble des permutations de $⟦ 1; n ⟧$ (avec $n \in ℕ^{*}$ ) que l’on munit de la tribu discrète et de la probabilité uniforme. Pour $k \in ⟦ 1; n ⟧$ , on définit une variable aléatoire $X_{k}$ sur $Ω$ en posant, pour tout $σ$ élément de $Ω$ ,

X_{k} (σ) = {\begin{matrix} 1 & si σ (k) = k \\ 0 & sinon. \end{matrix}

(a)

Identifier la loi de la variable $X_{k}$ .
(b)

Soient $i, j \in ⟦ 1; n ⟧$ distincts. Calculer $Cov (X_{i}, X_{j})$ .
(c)

En déduire l’espérance et la variance de la variable $N$ donnant le nombre de points fixes d’une permutation $σ$ élément de $Ω$ .

Solution

(a)

La variable $X_{k}$ prend ses valeurs dans ${0,1}$ , elle suit donc une loi de Bernoulli. Pour déterminer son paramètre, il suffit d’évaluer $P (X_{k} = 1)$ .

Il y a $n!$ éléments dans $Ω$ et, parmi ceux-ci, il y a exactement $(n - 1)!$ permutations fixant $k$ car ces dernières s’identifient par restriction aux permutations de $⟦ 1; n ⟧ ∖ {k}$ . La probabilité étant uniforme,

$P (X_{k} = 1) = \frac{(n - 1)!}{n!} = \frac{1}{n} .$

La variable $X_{k}$ suit une loi de Bernoulli de paramètre $p = \frac{1}{n}$ .
(b)

Méthode: Par la formule de Huygens,

$Cov (X_{i}, X_{j}) = E (X_{i} X_{j}) - E (X_{i}) E (X_{j}) .$

La variable $X_{i} X_{j}$ prend ses valeurs dans ${0,1}$ , elle suit aussi une loi de Bernoulli. La variable $X_{i} X_{j}$ prend la valeur $1$ uniquement lorsque $i$ et $j$ sont des points fixes de la permutation étudiée. Les permutations fixant $i, j$ s’identifient par restriction aux permutations de $⟦ 1; n ⟧ ∖ {i, j}$ , il y en a exactement $(n - 2)!$ et

$P (X_{i} X_{j} = 1) = \frac{(n - 2)!}{n!} = \frac{1}{n (n - 1)} .$

La variable $X_{i} X_{j}$ suit une loi de Bernoulli de paramètre $p^{'} = \frac{1}{n (n - 1)}$ .

L’espérance d’une loi de Bernoulli étant égale à son paramètre, on obtient¹¹ 1 La covariance obtenue est positive et cela peut être attendu car, si une permutation admet $i$ pour point fixe, cela réduit les valeurs possibles pour $j$ et accroît la probabilité que $j$ soit point fixe.

$Cov (X_{i}, X_{j}) = E (X_{i} X_{j}) - E (X_{i}) E (X_{j}) = \frac{1}{n (n - 1)} - \frac{1}{n} \cdot \frac{1}{n} = \frac{1}{(n - 1) n^{2}} .$
(c)

La variable $N$ correspond à la somme $X_{1} + \dots + X_{n}$ . Par linéarité de l’espérance,

$E (N) = \sum_{k = 1}^{n} E (X_{k}) = \sum_{k = 1}^{n} \frac{1}{n} = 1 .$

Méthode: La variance d’une somme se développe par bilinéarité de la covariance.

Par développement,

$V (N)$ $= Cov (N, N) = Cov (\sum_{i = 1}^{n} X_{i}, \sum_{j = 1}^{n} X_{j}) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} Cov (X_{i}, X_{j})$

$= \sum_{i = 1}^{n} V (X_{i}) + 2 \sum_{1 \leq i < j \leq n} Cov (X_{i}, X_{j}) .$

La première somme comporte $n$ termes égaux à la variance d’une loi de Bernoulli de paramètre $\frac{1}{n}$ et la seconde somme comporte $\frac{n (n - 1)}{2}$ égaux à la covariance précédemment calculée. On peut alors terminer le calcul

$V (N) = n \cdot \frac{1}{n} (1 - \frac{1}{n}) + 2 \cdot \frac{n (n - 1)}{2} \cdot \frac{1}{n^{2} (n - 1)} = 1 .$

Exercice 6 5400 Correction

(Processus de comptage)

Un dispositif de comptage dénombre les visiteurs qui entrent dans un musée. On note $X_{0} = 0$ et, pour tout $n \in ℕ^{*}$ , on introduit la variable aléatoire $X_{n}$ qui donne le nombre de visiteurs ayant passé le portail entre les instants $0$ et $n$ . On admet que la variable $X_{n + 1} - X_{n}$ suit une loi de Poisson de paramètre $α$ et que les différentes variables $X_{n + 1} - X_{n}$ pour $n \geq 0$ sont indépendantes.

Soient $(n, m) \in ℕ^{2}$ avec $0 \leq m \leq n$ .

(a)

Déterminer la loi de $X_{n} - X_{m}$ .
(b)

Calculer $E (X_{m} (X_{n} - X_{m}))$ puis la covariance des variables aléatoires $X_{m}$ et $X_{n}$
(c)

Quelle est la loi du couple $(X_{m}, X_{n})$ ?
(d)

Pour $n \neq 0$ , on pose $p = m / n$ . Pour $k \in ℕ$ , calculer la loi de probabilité de $X_{m}$ sachant que $X_{n} = k$ puis identifier cette loi.

On note $N$ la variable aléatoire qui prend pour valeur le plus petit entier $n > 0$ tel qu’il soit entré au moins un visiteur entre les instants $0$ et $n$ .

(e)

Pour $n \in ℕ^{*}$ , exprimer l’évènement $(N = n)$ en fonction de $X_{n - 1}$ et $X_{n}$ , puis déterminer la loi de $N$ et donner son espérance.

Solution

(a)

Par somme de variables aléatoires de Poisson indépendantes, $X_{n} - X_{m}$ suit une loi de Poisson de paramètre $α (n - m)$ .

(b)

La variable $X_{m} = X_{m} - X_{0}$ suit une loi de Poisson de paramètre $α m$ . En vertu du lemme des coalitions, les variables

X_{m} = X_{m} - X_{0} = \sum_{k = 0}^{m - 1} (X_{k + 1} - X_{k}) et X_{n} - X_{m} = X_{n} - X_{m} = \sum_{k = m}^{n - 1} (X_{k + 1} - X_{k})

sont indépendantes.

E (X_{m} (X_{n} - X_{m})) = E (X_{m}) E ((X_{n} - X_{m})) = α^{2} m (n - m) .

On en déduit la covariance de $X_{m}$ et $X_{n}$

	$Cov (X_{m}, X_{n})$	$= E (X_{m} X_{n}) - E (X_{m}) E (X_{n})$
		$= E (X_{m} (X_{n} - X_{m})) + E (X_{m}^{2}) - E (X_{m}) E (X_{n})$
		$= E (X_{m} (X_{n} - X_{m})) + V (X_{m}) + E {(X_{m})}^{2} - E (X_{m}) E (X_{n})$
		$= α^{2} m (n - m) + α m + α^{2} m^{2} - α^{2} m n = α m .$

La formule proposée n’est pas symétrique en $m$ et $n$ mais cela s’explique par la condition $m \leq n$ .

(c)

Le couple $(X_{m}, X_{n})$ prend ses valeurs dans ${(j, k) \in ℕ^{2} | j \leq k}$ car $X_{m}$ et $X_{n} - X_{m}$ prennent leurs valeurs dans $ℕ$ .

Soit $(j, k) \in ℕ^{2}$ tel que $j \leq k$ . On a

$P ((X_{m}, X_{n}) = (j, k)) = P (X_{m} = j, X_{n} = k) = P (X_{m} = j, X_{n} - X_{m} = k - j) .$

Par indépendance,

$P ((X_{m}, X_{n}) = (j, k))$ $= P (X_{m} = j) P (X_{n} - X_{m} = k - j)$

$= e^{- α m} \frac{{(α m)}^{j}}{j!} \times e^{- α (n - m)} \frac{(α {(n - m)}^{k - j})}{(k - j)!}$

$= e^{- α n} α^{k} \frac{m^{j} {(n - m)}^{k - j}}{j! (k - j)!} .$
(d)

Sous la condition $(X_{n} = k)$ , la variable aléatoire $X_{m}$ prend ses valeurs dans $⟦ 0; k ⟧$ . Pour $j \in ⟦ 0; k ⟧$ ,

$P (X_{m} = j ∣ X_{n} = k) = \frac{P (X_{m} = j, X_{n} = k)}{P (X_{n} = k)} = (\binom{k}{j}) p^{j} {(1 - p)}^{k - j} .$

On reconnaît une loi binomiale de paramètres $k$ et $p$ .
(e)

Immédiatement,

$(N = n) = (X_{n - 1} = 0) \cap (X_{n} > 0) = (X_{n - 1} = 0) \cap (X_{n} - X_{n - 1} > 0) .$

La variable $N$ prend ses valeurs dans $ℕ^{*}$ et, par indépendance,

$P (N = n)$ $= P (X_{n - 1} = 0) P (X_{n} - X_{n - 1} > 0)$

$= P (X_{n - 1} = 0) (1 - P (X_{n} - X_{n - 1} = 0))$

$= e^{- α (n - 1)} (1 - e^{- α}) .$

On reconnaît une loi géométrique de paramètre $1 - e^{- α}$ et l’on peut alors donner son espérance et sa variance

$E (N) = \frac{1}{1 - e^{- α}} .$

Exercice 7 4086 Correction

Soient $X$ et $Y$ deux variables aléatoires réelles dont les carrés sont d’espérances finies.

On suppose $V (X) > 0$ . Déterminer $a, b \in ℝ$ minimisant la quantité

E ({(Y - (a X + b))}^{2}) .

Solution

On a

E ({(Y - (a X + b))}^{2}) = V (Y - (a X + b)) + E {(Y - (a X + b))}^{2} .

D’une part

V (Y - (a X + b)) = V (Y - a X) = a^{2} V (X) - 2 a Cov (X, Y) + V (Y)

et donc

	$V (Y - (a X + b))$	$= V (Y - a X)$
		$= {(a - \frac{Cov (X, Y)}{V (X)})}^{2} V (X) + \frac{V (X) V (Y) - {(Cov (X, Y))}^{2}}{V (X)} .$

D’autre part

E {(Y - (a X + b))}^{2} = 0 pour b = E (Y) - a E (X) .

On en déduit que

E ({(Y - (a X + b))}^{2})

est minimale pour

a = \frac{Cov (X, Y)}{V (X)} et b = \frac{V (X) E (Y) - Cov (X, Y) E (X)}{V (X)} .

Ces valeurs de $a$ et $b$ réalisent une régression linéaire: elles donnent la meilleure expression linéaire de $Y$ en fonction de $X$ .

Exercice 8 4048 Correction

Un signal est diffusé via un canal et un bruit vient malheureusement s’ajouter à la transmission. Le signal est modélisé par une variable aléatoire discrète réelle $S$ d’espérance $m_{S}$ et de variance $σ_{S}^{2}$ connues. Le bruit est modélisé par une variable $B$ indépendante de $S$ d’espérance nulle et de variance $σ_{B}^{2} > 0$ . Après diffusion, le signal reçu est $X = S + B$ .

Déterminer $a, b \in ℝ$ pour que $Y = a X + b$ soit au plus proche de $S$ c’est-à-dire telle que l’espérance $E ({(Y - S)}^{2})$ soit minimale.

Solution

Par la formule de Huygens

E ({(Y - S)}^{2}) = V (Y - S) + {(E (Y - S))}^{2}

avec

E (Y - S) = (a - 1) m_{S} + b

V (Y - S) = V ((a - 1) S + a B + b) = {(a - 1)}^{2} σ_{s}^{2} + a^{2} σ_{B}^{2}

car la covariance de $S$ et $B$ est nulle.
La quantité $V (Y - S)$ est minimale pour

a = \frac{σ_{S}^{2}}{σ_{S}^{2} + σ_{B}^{2}}

et l’on peut alors rendre le terme ${(E (Y - S))}^{2}$ nul pour

b = (1 - a) m_{S} .

Au final

Y = \frac{σ_{S}^{2}}{σ_{S}^{2} + σ_{B}^{2}} X + \frac{σ_{B}^{2}}{σ_{S}^{2} + σ_{B}^{2}} m_{S} .

Exercice 9 4047 Correction

Soient $X_{1}, \dots, X_{n}$ des variables aléatoires discrètes réelles $L^{2}$ . On appelle matrice de covariance de la famille $(X_{1}, \dots, X_{n})$ la matrice

Σ = {(Cov (X_{i}, X_{j}))}_{1 \leq i, j \leq n} .

(a)

Soit $X = a_{1} X_{1} + \dots + a_{n} X_{n}$ avec $a_{i} \in ℝ$ .

Exprimer la variance de $X$ en fonction de la matrice $Σ$ .
(b)

En déduire que les valeurs propres de la matrice $Σ$ sont toutes positives.

Solution

(a)

On a

$V (X) = Cov (X, X) .$

Par bilinéarité

$V (a_{1} X_{1} + \dots + a_{n} X_{n}) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} a_{i} a_{j} V (X_{i}, X_{j}) .$

Ce calcul est aussi le résultat du produit matriciel

$C^{⊤} Σ C avec C = {(\begin{matrix} a_{1} & \dots & a_{n} \end{matrix})}^{⊤} .$
(b)

Soit $C = {(\begin{matrix} a_{1} & \dots & a_{n} \end{matrix})}^{⊤}$ un vecteur propre de $Σ$ associé à une valeur propre $λ$ .
On a $C^{⊤} Σ C = λ C^{⊤} C = λ {∥ C ∥}^{2}$ et, pour $X = a_{1} X_{1} + \dots + a_{n} X_{n}$ , $V (X) \geq 0$ donc

$λ = \frac{V (X)}{{∥ C ∥}^{2}} \geq 0 .$

Exercice 10 4378

Soient $X_{1}, \dots, X_{n}$ des variables aléatoires discrètes réelles $L^{2}$ . On appelle matrice de covariance de la famille $(X_{1}, \dots, X_{n})$ , la matrice

M = {(Cov (X_{i}, X_{j}))}_{1 \leq i, j \leq n} \in ℳ_{n} (ℝ) .

Montrer que cette matrice est diagonalisable et à valeurs propres positives.

Exercice 11 5273 ENSTIM (MP)Correction

Soient $X, Y$ des variables aléatoires indépendantes suivant une loi de Poisson de paramètre $λ \in ℝ_{+}^{*}$ .

(a)

Déterminer les fonctions génératrices de $X$ et $3 Y$ .
(b)

En déduire la fonction génératrice de $Z = X + 3 Y$ .
(c)

Calculer $E (Z)$ et $V (Z)$ .
(d)

Les variables $X$ et $Z$ sont-elles indépendantes?
(e)

Trouver le minimum de la fonction $t \mapsto V (X + t Y)$ .

Solution

(a)

Pour tout $t$ réel,

$G_{X} (t) = \sum_{n = 0}^{+ \infty} P (X = n) t^{n} = \sum_{n = 0}^{+ \infty} e^{- λ} \frac{{(λ t)}^{n}}{n!} = e^{λ (t - 1)}$

et

$G_{3 Y} (t) = E (t^{3 Y}) = E ({(t^{3})}^{Y}) = G_{Y} (t^{3}) = e^{λ (t^{3} - 1)} .$
(b)

Par indépendance des variables $X$ et $3 Y$ ,

$G_{Z} (t) = G_{X} (t) G_{3 Y} (t) = e^{λ (t - 1) (t^{2} + t + 2)} .$
(c)

Par linéarité,

$E (Z) = E (X) + 3 E (Y) = 4 λ .$

Par indépendance,

$V (Z) = V (X) + 9 V (Y) = 10 λ .$
(d)

Les variables $X$ et $Z$ ne sont pas indépendantes car

$P (X = 1, Z = 0) = 0 et P (X = 1) P (Z = 0) \neq 0 .$
(e)

Par indépendance,

$V (Z) = V (X + t Y) = V (X) + t^{2} V (Y) .$

Cette expression est minimale pour $t = 0$ .

[<] Calcul d'espérances et variances [>] Moments

Édité le 08-01-2024

	$V (N)$	$= Cov (N, N) = Cov (\sum_{i = 1}^{n} X_{i}, \sum_{j = 1}^{n} X_{j}) = \sum_{i = 1}^{n} \sum_{j = 1}^{n} Cov (X_{i}, X_{j})$
		$= \sum_{i = 1}^{n} V (X_{i}) + 2 \sum_{1 \leq i < j \leq n} Cov (X_{i}, X_{j}) .$

	$P ((X_{m}, X_{n}) = (j, k))$	$= P (X_{m} = j) P (X_{n} - X_{m} = k - j)$
		$= e^{- α m} \frac{{(α m)}^{j}}{j!} \times e^{- α (n - m)} \frac{(α {(n - m)}^{k - j})}{(k - j)!}$
		$= e^{- α n} α^{k} \frac{m^{j} {(n - m)}^{k - j}}{j! (k - j)!} .$

	$P (N = n)$	$= P (X_{n - 1} = 0) P (X_{n} - X_{n - 1} > 0)$
		$= P (X_{n - 1} = 0) (1 - P (X_{n} - X_{n - 1} = 0))$
		$= e^{- α (n - 1)} (1 - e^{- α}) .$

Covariances