[<] Moments [>] Fonctions génératrices

 
Exercice 1  5504  Correction  

Soit X une variable aléatoire discrète à valeurs dans [a;b].

Montrer que pour tout c[a;b],

E(X)-cb-cP(Xc)E(X)-ac-a.

Solution

Les événements (Xc) et (X-ac-a) sont identiques. La variable X-a étant à valeurs positives, l’inégalité de Markov donne

P(Xc)=P(X-ac-a)E(X-a)c-a=E(X)-ac-a.

Les événements (X<c) et (b-X>b-c) sont identiques. La variable b-X étant à valeurs positives, l’inégalité de Markov donne

P(X<c)=P(b-X>b-c)E(b-X)b-c=b-E(X)b-c.

Par passage à l’événement contraire,

P(Xc)=1-P(X<c)1-b-E(X)b-c=E(X)-cb-c.
 
Exercice 2  5365  Correction  
  • (a)

    Énoncer et démontrer l’inégalité de Markov.

  • (b)

    Application : Soit X une variable aléatoire à valeurs réelles.

    Montrer que pour tout réel a

    P(Xa)E(eX-a).

Solution

  • (a)

    Soient X une variable aléatoire à valeurs dans + et a0. Posons A=(Xa). On remarque Xa1A et par croissance et linéarité de l’espérance

    E(X)aE(1A)=aP(A)=aP(Xa)

    ce qui constitue l’inégalité de Markov.

  • (b)

    Par stricte croissance de l’exponentielle, on remarque

    (Xa)=(eXea).

    La variable aléatoire Y=eX est positive et, pour a, l’inégalité de Markov donne

    E(Y)eaP(Yea).

    On en déduit

    P(Xa)e-aE(Y)=E(eX-a).
 
Exercice 3  5861  Correction  

Soient X une variable aléatoire réelle et f:++ une fonction strictement croissante. Montrer

a>0,P(|X|a)E(f(|X|))f(a).

Solution

Soit a>0. Par stricte croissance de f, on remarque l’égalité d’événements

(|X|a)=(f(|X|)f(a)).

On applique l’inégalité de Markov à la variable aléatoire positive Y=f(|X|) et l’on a

b>0,P(Yb)E(Y)b.

Pour b=f(a)>0, on obtient l’inégalité voulue.

 
Exercice 4  5630  Correction  

Soit X une variable aléatoire discrète telle que E(X)=V(X)=λ avec λ>0.

  • (a)

    Montrer

    P(X2λ)P((X-λ+1)2(λ+1)2).
  • (b)

    En déduire

    P(X2λ)1λ+1.

Solution

  • (a)

    On remarque la comparaison d’événements

    (X2λ)=(X-λ+1λ+1)((X-λ+1)2(λ+1)2).

    Par croissance des probabilités,

    P(X2λ)P((X-λ+1)2(λ+1)2).
  • (b)

    La variable (X-λ+1)2 est à valeurs positives. Par l’inégalité de Markov,

    P((X-λ+1)2(λ+1)2)1(λ+1)2E((X-λ+1)2).

    Or, par linéarité,

    E((X-λ+1)2)=E((X-λ)2)+2(E(X)-λ=0)+1=V(X)+1=λ+1

    et donc

    P(X2λ)1λ+1.
 
Exercice 5  4113  Correction  

Soit (Xn)n1 une suite de variables aléatoires deux à deux indépendantes avec Xn suivant une loi de Bernoulli de paramètre pn. Montrer que pour tout ε>0

limn+P(|X1++Xnn-1ni=1npi|<ε)=1.

Solution

Posons

X=X1++Xnn.

Par linéarité de l’espérance,

E(X)=1ni=1nE(Xi)=1ni=1npi.

Les variables étant deux à deux indépendantes,

V(X)=1n2i=1nV(Xi)=1n2i=1npi(1-pi)14n

car x(1-x)1/4 pour tout x[0;1].

En appliquant l’inégalité de Bienaymé-Tchebychev, on écrit

P(|X-E(X)|ε)V(X)ε2.

En passant au complémentaire, on obtient

P(|X1++Xnn-1ni=1npi|<ε)1-14nε2n+1

ce qui permet de conclure.

 
Exercice 6  4122   Correction  

Soit f:[0;1] une fonction continue et n*.

  • (a)

    Soit Sn une variable aléatoire suivant une loi binomiale de paramètres n et x[0;1] et Xn=Sn/n
    Donner les valeurs de l’espérance et de la variance de Xn. Justifier

    α>0,P(|Xn-x|>α)14nα2.
  • (b)

    On introduit la variable aléatoire Yn=f(Xn) et l’on pose Bn(f)(x)=E(Yn).
    Vérifier que Bn(f)(x) est une fonction polynôme de la variable x.
    Soit ε>0. La fonction f étant continue sur le segment [0;1], elle y est uniformément continue (théorème de Heine). Ceci assure l’existence d’un réel α>0 vérifiant

    (x,y)[0;1]2,|y-x|α|f(y)-f(x)|ε.

    Au surplus, la fonction f étant continue sur un segment, elle y est bornée (théorème de la borne atteinte). Ceci permet d’introduire un réel M vérifiant

    x[0;1],|f(x)|M.
  • (c)

    Avec les notations ci-dessus, établir

    ||kn-x|>α(f(kn)-f(x))P(Xn=k/n)|M2nα2

    et

    ||kn-x|α(f(kn)-f(x))P(Xn=k/n)|ε.
  • (d)

    Conclure qu’à partir d’un certain rang, on a

    x[0;1],|Bn(f)(x)-f(x)|2ε.

    Ce résultat constitue une démonstration «  probabiliste  » du théorème de Stone-Weierstrass assurant que toute fonction réelle continue sur un segment peut être uniformément approchée par une fonction polynôme.

Solution

  • (a)

    On sait E(Sn)=nx et V(Sn)=nx(1-x). On en déduit

    E(Xn)=x et V(Xn)=x(1-x)n.

    Par l’inégalité de Bienaymé-Tchebychev, on peut affirmer

    P(|Xn-E(Xn)|>α)V(Xn)α2.

    On en déduit

    P(|Xn-x|>α)x(1-x)nα214nα2

    car x(1-x)1/4 pour tout x[0;1].

  • (b)

    Sachant que les valeurs prises par Xn figurent parmi les k/n avec k0;n, la formule de transfert donne

    E(Yn)=k=0nf(kn)P(Xn=kn) avec P(Xn=kn)=P(Sn=k)=(nk)xk(1-x)n-k.

    Ainsi,

    Bn(f)(x)=k=0n(nk)f(kn)xk(1-x)n-k.

    La fonction xBn(f)(x) est bien une fonction polynôme.

  • (c)

    Sachant

    |f(kn)-f(x)||f(kn)|+|f(x)|2M

    on obtient

    ||kn-x|>α(f(kn)-f(x))P(Xn=k/n)|2M|kn-x|>αP(Xn=k/n)=2MP(|Xn-x|>α)

    et donc

    ||kn-x|>α(f(kn)-f(x))P(Xn=k/n)|M2nα2.

    Aussi, lorsque |k/n-x|α, on a

    |f(kn)-f(x)|ε

    et donc

    ||kn-x|α(f(kn)-f(x))P(Xn=k/n)|ε|kn-x|αP(Xn=k/n)ε.
  • (d)

    Pour n assez grand, on a M/2nα2ε et alors

    |Bn(f)(x)-f(x)|||kn-x|α(f(kn)-f(x))P(Xn=k/n)|+||kn-x|>α(f(kn)-f(x))P(Xn=k/n)|2ε.
 
Exercice 7  4183     CENTRALE (MP)Correction  
  • (a)

    Écrire une fonction S(n,p) qui simule une variable aléatoire Sn=Y/n, où Y suit une loi binomiale (n,p).

    En déduire une fonction test(n,p) qui affiche les courbes interpolant les points (k,Sk), puis

    (k,p-ln(k)k) et (k,p+ln(k)k).

    Que remarque-t-on?

  • (b)

    Soit t et x[-1;1]. Montrer que

    etx12(1-x)e-t+12(1+x)et.
  • (c)

    On considère une variable aléatoire X telle que |X|1 et E(X)=0. Montrer que exp(tX) est d’espérance finie et

    E(exp(tX))ch(t)exp(t2/2).
  • (d)

    Soit X1,,Xn des variables aléatoires centrées indépendantes telles que, pour tout i, |Xi|ai. On pose

    Sn=i=1nXi.

    Montrer

    E(exp(tS))exp(t22i=1nai2).

    Soit ε>0. Montrer

    P(Sn>ε)exp(-tε+t22i=1nai2).
  • (e)

    En choisissant une bonne valeur de t, montrer

    P(Sn>ε)exp(-ε22i=1nai2).
  • (f)

    Commenter le résultat observé à la première question.

Solution

  • (a)
    import random as rnd
    import math
    
    def S(n,p):
        R = 0
        for k in range(n+1):
            if rnd.random() < p: R = R + 1
        return R/n
    
    import matplotlib.pyplot as plt
    
    def test(n,p):
        Lk = range(1,n)
        LS = [S(k,p) for k in Lk]
        Linf = [p - math.sqrt(math.log(k)/k) for k in Lk]
        Lsup = [p + math.sqrt(math.log(k)/k) for k in Lk]
        plt.clf()
        plt.plot(Lk,LS)
        plt.plot(Lk,Linf)
        plt.plot(Lk,Lsup)
    

    On remarque que la courbe expérimentale est plutôt bien encadrée.

  • (b)

    On a

    tx=(1-λ)×(-t)+λt avec λ=12(1+x)[0;1].

    La convexité de la fonction exponentielle produit alors le résultat voulu.

  • (c)

    La variable aléatoire X est bornée donc aussi exp(tX) qui est alors d’espérence finie. L’inégalité au-dessus permet d’écrire la comparaison

    exp(tX)12(1-X)e-t+12(1+X)et.

    Par croissance et linéarité de l’espérance, il vient

    E(exp(tX))12(1-E(X))e-t+12(1+E(X))et.

    Enfin, la nullité de l’espérance de X permet de conclure

    E(exp(tX))ch(t).

    En développant en série entière ch(t) et exp(t2/2), on remarque ch(t)exp(t2/2) car on peut comparer les termes sommés respectifs.

  • (d)

    On écrit Xi=aiYi avec E(Yi)=0 et |Yi|1 et alors

    E(exp(tS))=E(i=1nexp(taiYi)).

    Par indépendance et l’inégalité précédente

    E(exp(tS))=i=1nE(exp(taiYi))i=1nexp(12t2ai2)=exp(t22i=1nai2).

    Par l’inégalité de Markov,

    P(Sn>ε)=P(exp(tSn)>exp(tε))exp(-tε)E(exp(tSn))

    ce qui donne l’inégalité voulue.

  • (e)

    On prend

    t=εi=1nai2.
  • (f)

    Sn est la somme de n variables de Bernoulli indépendantes. En centrant celle-ci, on peut (avec largesse) prendre ai=1 et alors

    P(Sn-p>ε)exp(-ε22n).

    Avec ε=(ln(n))/n, on obtient

    P(Sn>p+ln(n)n)exp(-ln(n)2)=1n.

    Par passage à l’opposé de Sn, on obtient l’autre inégalité.

 
Exercice 8  4948     MINES (MP)Correction  

Soient (Ω,𝒜,P) un espace probabilisé et X une variable aléatoire centrée prenant ses valeurs dans [1;1].

  • (a)

    Par un argument de convexité, montrer que, pour tout x[1;1] et tout t,

    etx12(1x)et+12(1+x)et.
  • (b)

    Soit t. Montrer que E(etX) existe et

    E(etX)et2/2.
  • (c)

    Soit r>0. Établir

    P(|X|>r)2er2/2.

Solution

  • (a)

    On pose λ=(1+x)/2[0;1] et la convexité de l’exponentielle donne

    e(1λ)(t)+λt(1λ)et+λet

    ce qui produit la comparaison voulue.

  • (b)

    La variable X est bornée et donc Y=etx l’est aussi et par conséquent admet une espérance. Par ce qui précède, on a la comparaison

    Y12(1X)et+12(1+X)et.

    Par croissance de l’espérance et nullité de l’espérance de X

    E(Y)12et+12et=ch(t).

    Par développement en série entière et en employant (2n)!2nn!, on obtient

    ch(t)=n=0+t2n(2n)!n=0+t2n2nn!=et2/2.
  • (c)

    Par l’inégalité de Markov, on a pour tout t>0,

    P(X>r)=P(etX>etr)etrE(etX)etr+t2/2.

    Pour t=r, il vient

    P(X>r)er2/2.

    En considérant X=X, on obtient

    P(X<r)er2/2

    et l’on conclut

    P(|X|>r)2er2/2.
 
Exercice 9  4087  Correction  

Soit X une variable aléatoires réelle discrète admettant une variance σ2 (avec σ>0). Montrer

α>0,P(|X-E(X)|<ασ)1-1α2.

Solution

Par l’inégalité de Bienaymé-Tchebychev,

P(|X-E(X)|ασ)<σ2(ασ2)=1α2.

On conclut par considération d’évènement complémentaire.

 
Exercice 10  5007      X (PSI)

(Inégalité de Chernoff)

Soit Y une variable aléatoire discrète prenant ses valeurs dans [α;β] avec α<β. On suppose que la variable Y est d’espérance nulle.

  • (a)

    Soit Φ:[α;β] une fonction de classe 𝒞2 vérifiant

    Φ(α)=Φ(β)=0etΦ′′0.

    Montrer que Φ(y)0 pour tout y[α;β].

  • (b)

    Soit s un réel. Montrer

    (β-α)esy(β-y)esα+(y-α)esβpour tout y[α;β].

    En déduire

    (β-α)E(esY)βesα-αesβ.
  • (c)

    Soit s un réel. Montrer

    ln(βesα-αesβ)18(β-α)2s2+ln(β-α).

    En déduire

    E(esY)exp((β-α)28s2).

Soient n* et X1,,Xn des variables aléatoires indépendantes prenant leurs valeurs dans [a;b] avec a<b. On pose S la somme de ces variables et l’on introduit t un réel strictement positif.

  • (d)

    Montrer que pour tout s>0,

    P(S-E(S)t) e-sti=1nE(es(Xi-E(Xi)))
    exp(-st+n(b-a)28s2).
  • (e)

    En déduire l’inégalité de Chernoff

    P(S-E(S)t)exp(-2t2n(b-a)2).
 
Exercice 11  5367   Correction  

Soient X1,,Xn des variables aléatoires indépendantes de loi uniforme sur {-1,1}. On pose Sn=X1++Xn.

  • (a)

    Soient α et λ des réels strictement positifs. Établir

    P(Snn>α)=P(eλSn>eλnα).
  • (b)

    En déduire que pour tout α>0,

    P(Snn>α)e-nα2/2.

    On admettra l’inégalité ch(λ)eλ2/2 pour tout λR.

Solution

  • (a)

    Soient α et λ des réels strictement positifs. Par stricte croissance de la fonction teλt, on a l’égalité d’événements

    (Snn>α)=(Sn>nα)=(eλSn>eλnα).
  • (b)

    Par l’inégalité de Markov11 1 L’inégalité de Markov propose une majoration de P(Xa). Sachant (X>a)(Xa), elle peut aussi être employée pour majorer P(X>a). appliquée à la variable Y=eλSn, il vient

    P(Snn>α)=P(eλSn>eλnα)e-λnαE(eλSn).

    On peut calculer l’espérance figurant en second membre par l’indépendance des variables X1,,Xn qui entraîne22 2 Cette affirmation se justifie aisément par le théorème d’indépendance. celle des variables eλX1,,eλXn:

    E(eλSn) =E(eλX1××eλXn)
    =E(eλX1)××E(eλXn)
    =(eλ+e-λ2)n=(ch(λ))n.

    En exploitant l’inégalité de la question précédente, on poursuit

    P(Snn>α)e-λnα(ch(λ))ne-λnαenλ2/2.

    Il reste à choisir convenablement la valeur de λ. Pour33 3 Le polynôme du second degré λn2λ2-nαλ est minimal en α. λ=α, on conclut44 4 Ce résultat est un cas particulier de l’inégalité de Chernoff. Voir le sujet 5007.

    P(Snn>α)e-nα2enα2/2=e-nα2/2.
 
Exercice 12  5008   

Soient X1,,Xn des variables aléatoires indépendantes de loi uniforme11 1 On dit que les variables X1,,Xn suivent une loi de Rademacher. sur {-1,1}. On pose Sn=X1++Xn.

  • (a)

    Soit λ. Montrer

    ch(λ)eλ2/2.
  • (b)

    Établir que pour tout α>0,

    P(Snn>α)e-nα2/2.
 
Exercice 13  5467     MINES (PSI)Correction  

Soit X une variable aléatoire positive, non constante et admettant un moment d’ordre 2.

Établir

λ]0;1[,P(XλE(X))(1-λ)2E(X)2E(X2).

Solution

Soit λ]0;1[. En réorganisant les membres, il s’agit d’établir

(1-λ)2E(X)2E(X2)P(XλE(X))

ce qui fait penser à l’inégalité de Cauchy-Schwarz. Introduisons la variable aléatoire Y=1XλE(X). Celle-ci vérifie Y2=Y et l’inégalité de Cauchy-Schwarz donne

E(XY)2E(X2)E(Y2)=E(X2)E(Y)=E(X2)P(XλE(X)).

Pour conclure, il suffit alors de vérifier

(1-λ)E(X)E(XY)

(car les membres sont positifs ce qui permet de conserver l’inégalité après élévation au carré). On remarque

X=X1X<λE(X)+X1XλE(X)λE(X)1X<λE(X)+X1XλE(X)λE(X)+XY.

Par croissance de l’espérance,

E(X)λE(X)+E(XY)

et l’on conclut en réorganisant les membres.

 
Exercice 14  5275     ENSTIM (MP)Correction  

On suppose qu’une variable aléatoire X suit une loi binomiale de paramètres n* et p]0;1[. Soit ε>0. Montrer

P(Xn-pε)p(1-p)εn.

Solution

Par croissance des probabilités,

P(Xn-pε)P(|Xn-p|ε)

et par l’inégalité de Markov (la variable aléatoire considérée est à valeurs positives)

P(|Xn-p|ε)1εE(|Xn-p|).

Or, pour toute variable aléatoire Y admettant un moment d’ordre 2, l’inégalité de Cauchy-Schwarz donne

E(Y)=E(1×Y)E(1)E(Y2)=E(Y2).

Ainsi,

E(|Xn-p|)(E(|Xn-p|2))1/2=(V(Xn))1/2=1nV(X)=p(1-p)n.

Au final, on conclut

P(Xn-pε)p(1-p)εn.

Notons que cette inégalité est meilleure que celle de Bienaymé-Tchebychev seulement lorsque le majorant est supérieur à 1 (autrement dit, elle n’est pas très utile).

 
Exercice 15  5460     MINES (MP)Correction  

(Inégalité de Kolmogorov)

Soient X1,,Xn des variables aléatoires indépendantes centrées et d’écarts-type respectifs σ1,,σn. Pour k=1,,n, on pose Sk=X1++Xk et

Akε=(|Sk|ε)(i=1k-1(|Si|<ε)) avec ε>0.
  • (a)

    Exprimer l’événement (max1kn|Sk|ε) en fonction des Akε pour k=1,,n.

  • (b)

    Vérifier

    E(Sn21Akε)-E((Sn-Sk)21Akε)=E(Sk21Akε).

    On pourra considérer E((Sn-Sk)Sk1Akε).

  • (c)

    En déduire

    P(max1kn|Sk|ε)σ2ε2 avec σ2=σ12++σn2.
  • (d)

    Comparer cette inégalité avec celle de Bienaymé-Tchebychev.

Solution

  • (a)

    Immédiatement,

    (max1kn|Sk|ε)=k=1nAkε.
  • (b)

    Les variables Sn-Sk=Xk+1++Xn et Sk1Akε sont indépendantes et donc

    E((Sn-Sk)Sk1Akε)=E(Sn-Sk)E(Sk1Akε).

    Les variables Xk+1,,Xn étant centrées, E(Sn-Sk)=E(Xk+1)++E(Xn)=0. Ainsi,

    E((Sn-Sk)Sk1Akε)=0.

    Par linéarité, il vient

    E(SnSk1Akε)=E(Sk21Akε)

    puis, par développement,

    E((Sn-Sk)21Akε) =E(Sn1Akε)-2E(SnSk1Akε)+E(Sk21Akε)
    =E(Sn1Akε)-E(Sk21Akε).

    On obtient ensuite la relation voulue en réorganisant les membres.

  • (c)

    Les événements Akε étant deux à deux incompatibles,

    P(max1kn|Sk|ε)=k=1nP(Akε).

    Pour k1;n,

    ε2P(Akε)=ε2E(1Akε)=E(ε21Akε)E(Sk21Akε)E(Sn21Akε).

    En sommant,

    ε2P(max1kn|Sk|ε)k=1nE(Sn21Akε)=E(Sn2k=1n1Akε).

    Les événements Akε étant deux à deux incompatibles

    k=1n1Akε1

    puis

    ε2P(max1kn|Sk|ε)k=1nE(Sn21Akε)=E(Sn2).

    Enfin, la variable Sn est centrée et les variables Xn sont indépendantes donc

    E(Sn2)=V(Sn)=V(X1)++V(Xn)=σ12++σn2=σ2.

    On conclut

    ε2P(max1kn|Sk|ε)σ2.
  • (d)

    L’inégalité de Bienaymé-Tchebychev pour une variable centrée X s’exprime

    P(|X|ε)σ2ε2 avec σ2=V(X).

    Cette inégalité permet d’écrire

    P(|Sn|ε)σ2ε2.

    L’inégalité acquise précédemment est donc meilleure.

 
Exercice 16  4375    

(Inégalité de Kolmogorov)

Sur un espace probabilisé (Ω,𝒜,P), on considère X1,,Xn des variables aléatoires discrètes réelles indépendantes, d’espérances nulles et admettant chacune un moment d’ordre 2. Pour tout k1;n, on note Sk la somme des variables X1,,Xk et l’on introduit t un réel strictement positif.

Pour k1;n, on introduit l’événement

Ak=j=1k1{|Sj|<t}{|Sk|t}.
  • (a)

    Justifier l’indépendance des variables 1AkSk2 et SnSk pour tout k1;n.

  • (b)

    Montrer

    E(Sn2)k=1nE(Sk21Ak).
  • (c)

    En déduire

    P(max1kn|Sk|t)1t2i=1nV(Xi).
 
Exercice 17  4377   

(Inégalité de Chernoff)

Soit Y une variable aléatoire centrée prenant ses valeurs dans [α;β] avec α<β.

  • (a)

    Soit s un réel. Montrer

    (β-α)esy(β-y)esα+(y-α)esβpour tout y[α;β].

    En déduire (β-α)E(esY)βesα-αesβ.

  • (b)

    Montrer à l’aide d’une étude de fonction

    ln(βesα-αesβ)18(β-α)2s2+ln(β-α)pour tout s réel.

    En déduire

    E(esY)exp((β-α)28s2).

Soient n* et X1,,Xn des variables aléatoires indépendantes prenant leurs valeurs dans [a;b] avec a<b. On pose S la somme de ces variables et l’on introduit t un réel strictement positif.

  • (c)

    Montrer que pour tout s>0

    P(S-E(S)t)e-sti=1nE(es(Xi-E(Xi)))exp(-st+n(b-a)28s2).
  • (d)

    En déduire l’inégalité de Chernoff

    P(S-E(S)t)exp(-2t2n(b-a)2).

[<] Moments [>] Fonctions génératrices



Édité le 29-08-2023

Bootstrap Bootstrap 3 - LaTeXML [LOGO] - Powered by MathJax Powered by MathJax