[<] Moments [>] Fonctions génératrices

 
Exercice 1  4113  Correction  

Soit (Xn)n1 une suite de variables aléatoires deux à deux indépendantes avec Xn suivant une loi de Bernoulli de paramètre pn. Montrer que pour tout ε>0

limn+P(|X1++Xnn-1ni=1npi|<ε)=1.

Solution

Posons

X=X1++Xnn.

Par linéarité de l’espérance,

E(X)=1ni=1nE(Xi)=1ni=1npi.

Les variables étant deux à deux indépendantes,

V(X)=1n2i=1nV(Xi)=1n2i=1npi(1-pi)14n

car x(1-x)1/4 pour tout x[0;1].

En appliquant l’inégalité de Bienaymé-Tchebychev, on écrit

P(|X-E(X)|ε)V(X)ε2.

En passant au complémentaire, on obtient

P(|X1++Xnn-1ni=1npi|<ε)1-14nε2n+1

ce qui permet de conclure.

 
Exercice 2  4122   Correction  

Soit f:[0;1] une fonction continue et n*.

  • (a)

    Soit Sn une variable aléatoire suivant une loi binomiale de paramètres n et x[0;1] et Xn=Sn/n
    Donner les valeurs de l’espérance et de la variance de Xn. Justifier

    α>0,P(|Xn-x|>α)14nα2.
  • (b)

    On introduit la variable aléatoire Yn=f(Xn) et l’on pose Bn(f)(x)=E(Yn).
    Vérifier que Bn(f)(x) est une fonction polynôme de la variable x.
    Soit ε>0. La fonction f étant continue sur le segment [0;1], elle y est uniformément continue (théorème de Heine). Ceci assure l’existence d’un réel α>0 vérifiant

    (x,y)[0;1]2,|y-x|α|f(y)-f(x)|ε.

    Au surplus, la fonction f étant continue sur un segment, elle y est bornée (théorème de la borne atteinte). Ceci permet d’introduire un réel M vérifiant

    x[0;1],|f(x)|M.
  • (c)

    Avec les notations ci-dessus, établir

    ||kn-x|>α(f(kn)-f(x))P(Xn=k/n)|M2nα2

    et

    ||kn-x|α(f(kn)-f(x))P(Xn=k/n)|ε.
  • (d)

    Conclure qu’à partir d’un certain rang, on a

    x[0;1],|Bn(f)(x)-f(x)|2ε.

    Ce résultat constitue une démonstration «  probabiliste  » du théorème de Stone-Weierstrass assurant que toute fonction réelle continue sur un segment peut être uniformément approchée par une fonction polynôme.

Solution

  • (a)

    On sait E(Sn)=nx et V(Sn)=nx(1-x). On en déduit

    E(Xn)=x et V(Xn)=x(1-x)n.

    Par l’inégalité de Bienaymé-Tchebychev, on peut affirmer

    P(|Xn-E(Xn)|>α)V(Xn)α2.

    On en déduit

    P(|Xn-x|>α)x(1-x)nα214nα2

    car x(1-x)1/4 pour tout x[0;1].

  • (b)

    Sachant que les valeurs prises par Xn figurent parmi les k/n avec k0;n, la formule de transfert donne

    E(Yn)=k=0nf(kn)P(Xn=kn) avec P(Xn=kn)=P(Sn=k)=(nk)xk(1-x)n-k.

    Ainsi,

    Bn(f)(x)=k=0n(nk)f(kn)xk(1-x)n-k.

    La fonction xBn(f)(x) est bien une fonction polynôme.

  • (c)

    Sachant

    |f(kn)-f(x)||f(kn)|+|f(x)|2M

    on obtient

    ||kn-x|>α(f(kn)-f(x))P(Xn=k/n)|2M|kn-x|>αP(Xn=k/n)=2MP(|Xn-x|>α)

    et donc

    ||kn-x|>α(f(kn)-f(x))P(Xn=k/n)|M2nα2.

    Aussi, lorsque |k/n-x|α, on a

    |f(kn)-f(x)|ε

    et donc

    ||kn-x|α(f(kn)-f(x))P(Xn=k/n)|ε|kn-x|αP(Xn=k/n)ε.
  • (d)

    Pour n assez grand, on a M/2nα2ε et alors

    |Bn(f)(x)-f(x)|||kn-x|α(f(kn)-f(x))P(Xn=k/n)|+||kn-x|>α(f(kn)-f(x))P(Xn=k/n)|2ε.
 
Exercice 3  4183     CENTRALE (MP)Correction  
  • (a)

    Écrire une fonction S(n,p) qui simule une variable aléatoire Sn=Y/n, où Y suit une loi binomiale (n,p).

    En déduire une fonction test(n,p) qui affiche les courbes interpolant les points (k,Sk), puis

    (k,p-ln(k)k) et (k,p+ln(k)k).

    Que remarque-t-on?

  • (b)

    Soit t et x[-1;1]. Montrer que

    etx12(1-x)e-t+12(1+x)et.
  • (c)

    On considère une variable aléatoire X telle que |X|1 et E(X)=0. Montrer que exp(tX) est d’espérance finie et

    E(exp(tX))ch(t)exp(t2/2).
  • (d)

    Soit X1,,Xn des variables aléatoires centrées indépendantes telles que, pour tout i, |Xi|ai. On pose

    Sn=i=1nXi.

    Montrer

    E(exp(tS))exp(t22i=1nai2).

    Soit ε>0. Montrer

    P(Sn>ε)exp(-tε+t22i=1nai2).
  • (e)

    En choisissant une bonne valeur de t, montrer

    P(Sn>ε)exp(-ε22i=1nai2).
  • (f)

    Commenter le résultat observé à la première question.

Solution

  • (a)
    import random as rnd
    import math
    
    def S(n,p):
        R = 0
        for k in range(n+1):
            if rnd.random() < p: R = R + 1
        return R/n
    
    import matplotlib.pyplot as plt
    
    def test(n,p):
        Lk = range(1,n)
        LS = [S(k,p) for k in Lk]
        Linf = [p - math.sqrt(math.log(k)/k) for k in Lk]
        Lsup = [p + math.sqrt(math.log(k)/k) for k in Lk]
        plt.clf()
        plt.plot(Lk,LS)
        plt.plot(Lk,Linf)
        plt.plot(Lk,Lsup)
    

    On remarque que la courbe expérimentale est plutôt bien encadrée.

  • (b)

    On a

    tx=(1-λ)×(-t)+λt avec λ=12(1+x)[0;1].

    La convexité de la fonction exponentielle produit alors le résultat voulu.

  • (c)

    La variable aléatoire X est bornée donc aussi exp(tX) qui est alors d’espérence finie. L’inégalité au-dessus permet d’écrire la comparaison

    exp(tX)12(1-X)e-t+12(1+X)et.

    Par croissance et linéarité de l’espérance, il vient

    E(exp(tX))12(1-E(X))e-t+12(1+E(X))et.

    Enfin, la nullité de l’espérance de X permet de conclure

    E(exp(tX))ch(t).

    En développant en série entière ch(t) et exp(t2/2), on remarque ch(t)exp(t2/2) car on peut comparer les termes sommés respectifs.

  • (d)

    On écrit Xi=aiYi avec E(Yi)=0 et |Yi|1 et alors

    E(exp(tS))=E(i=1nexp(taiYi)).

    Par indépendance et l’inégalité précédente

    E(exp(tS))=i=1nE(exp(taiYi))i=1nexp(12t2ai2)=exp(t22i=1nai2).

    Par l’inégalité de Markov,

    P(Sn>ε)=P(exp(tSn)>exp(tε))exp(-tε)E(exp(tSn))

    ce qui donne l’inégalité voulue.

  • (e)

    On prend

    t=εi=1nai2.
  • (f)

    Sn est la somme de n variables de Bernoulli indépendantes. En centrant celle-ci, on peut (avec largesse) prendre ai=1 et alors

    P(Sn-p>ε)exp(-ε22n).

    Avec ε=(ln(n))/n, on obtient

    P(Sn>p+ln(n)n)exp(-ln(n)2)=1n.

    Par passage à l’opposé de Sn, on obtient l’autre inégalité.

 
Exercice 4  4948     MINES (MP)Correction  

Soient (Ω,𝒯,P) un espace probabilisé et X une variable aléatoire centrée prenant ses valeurs dans [-1;1].

  • (a)

    Par un argument de convexié, montrer que, pour tout x[-1;1] et tout t,

    etx12(1-x)e-t+12(1+x)et.
  • (b)

    Soit t. Montrer que E(etX) existe et

    E(etX)et2/2.
  • (c)

    Soit r>0. Établir

    P(|X|>r)2e-r2/2.

Solution

  • (a)

    On pose λ=(1+x)/2[0;1] et la convexité de l’exponentielle donne

    e(1-λ)(-t)+λt(1-λ)e-t+λet

    ce qui produit la comparaison voulue.

  • (b)

    La variable X est bornée et donc Y=etx l’est aussi et par conséquent admet une espérance. Par ce qui précède, on a la comparaison

    Y12(1-X)e-t+12(1+X)et.

    Par croissance de l’espérance et nullité de l’espérance de X

    E(Y)12e-t+12et=ch(t).

    Par développement en série entière et en employant (2n)!2nn!, on obtient

    ch(t)=n=0+t2n(2n)!n=0+t2n2nn!=et2/2.
  • (c)

    Par l’inégalité de Markov, on a pour tout t>0,

    P(X>r)=P(etX>etr)e-trE(etX)e-tr+t2/2.

    Pour t=r, il vient

    P(X>r)e-r2/2.

    En considérant X=-X, on obtient

    P(X<-r)e-r2/2

    et l’on conclut

    P(|X|>r)2e-r2/2.
 
Exercice 5  4087  Correction  

Soit X une variable aléatoires réelle discrète admettant une variance σ2 (avec σ>0). Montrer

α>0,P(|X-E(X)|<ασ)1-1α2.

Solution

Par l’inégalité de Bienaymé-Tchebychev,

P(|X-E(X)|ασ)<σ2(ασ2)=1α2.

On conclut par considération d’évènement complémentaire.

 
Exercice 6  5007      X (PSI)

(Inégalité de Chernoff)

Soit Y une variable aléatoire discrète prenant ses valeurs dans [α;β] avec α<β. On suppose que la variable Y est d’espérance nulle.

  • (a)

    Soit Φ:[α;β] une fonction de classe 𝒞2 vérifiant

    Φ(α)=Φ(β)=0etΦ′′0.

    Montrer que Φ(y)0 pour tout y[α;β].

  • (b)

    Soit s un réel. Montrer

    (β-α)esy(β-y)esα+(y-α)esβpour tout y[α;β].

    En déduire

    (β-α)E(esY)βesα-αesβ.
  • (c)

    Soit s un réel. Montrer

    ln(βesα-αesβ)18(β-α)2s2+ln(β-α).

    En déduire

    E(esY)exp((β-α)28s2).

Soient n* et X1,,Xn des variables aléatoires mutuellement indépendantes prenant leurs valeurs dans [a;b] avec a<b. On pose S la somme de ces variables et l’on introduit t un réel strictement positif.

  • (c)

    Montrer que pour tout s>0,

    P(S-E(S)t) e-sti=1nE(es(Xi-E(Xi)))
    exp(-st+n(b-a)28s2).
  • (d)

    En déduire l’inégalité de Chernoff

    P(S-E(S)t)exp(-2t2n(b-a)2).
 
Exercice 7  5008   

Soient X1,,Xn des variables aléatoires indépendantes de loi uniforme11 1 On dit que les variables X1,,Xn suivent une loi de Rademacher. sur {-1,1}. On pose Sn=X1++Xn.

  • (a)

    Soit λ. Montrer

    ch(λ)eλ2/2.
  • (b)

    Établir que pour tout α>0,

    P(Snn>α)e-nα2/2.
 
Exercice 8  5275     ENSTIM (MP)Correction  

On suppose qu’une variable aléatoire X suit une loi binomiale de paramètres n* et p]0;1[. Soit ε>0. Montrer

P(Xn-pε)p(1-p)εn.

Solution

Par croissance des probabilités,

P(Xn-pε)P(|Xn-p|ε)

et par l’inégalité de Markov (la variable aléatoire considérée est à valeurs positives)

P(|Xn-p|ε)1εE(|Xn-p|).

Or, pour toute variable aléatoire Y admettant un moment d’ordre 2, l’inégalité de Cauchy-Schwarz donne

E(Y)=E(1×Y)E(1)E(Y2)=E(Y2).

Ainsi,

E(|Xn-p|)(E(|Xn-p|2))1/2=(V(Xn))1/2=1nV(X)=p(1-p)n.

Au final, on conclut

P(Xn-pε)p(1-p)εn.

Notons que cette inégalité est meilleure que celle de Bienaymé-Tchebychev seulement lorsque le majorant est supérieur à 1 (autrement dit, elle n’est pas très utile).

 
Exercice 9  4375    

(Inégalité de Kolmogorov)

Sur un espace probabilisé (Ω,𝒯,P), on considère X1,,Xn des variables aléatoires discrètes réelles indépendantes, d’espérances nulles et admettant chacune un moment d’ordre 2. Pour tout k1;n, on note Sk la somme des variables X1,,Xk et l’on introduit t un réel strictement positif.

Pour k1;n, on introduit l’événement

Ak=j=1k-1{|Sj|<t}{|Sk|t}.
  • (a)

    Justifier l’indépendance des variables 1AkSk2 et Sn-Sk pour tout k1;n.

  • (b)

    Montrer

    E(Sn2)k=1nE(Sk21Ak).
  • (c)

    En déduire

    P(max1kn|Sk|t)1t2i=1nV(Xi).
 
Exercice 10  4377   

(Inégalité de Chernoff)

Soit Y une variable aléatoire discrète prenant ses valeurs dans [α;β] avec α<β. On suppose que la variable Y est d’espérance nulle.

  • (a)

    Soit s un réel. Montrer que

    (β-α)esy(β-y)esα+(y-α)esβpour tout y[α;β].

    En déduire (β-α)E(esY)βesα-αesβ.

  • (b)

    Montrer à l’aide d’une étude de fonction

    ln(βesα-αesβ)18(β-α)2s2+ln(β-α)pour tout s0.

    En déduire

    E(esY)exp((β-α)28s2).

Soient n* et X1,,Xn des variables aléatoires mutuellement indépendantes prenant leurs valeurs dans [a;b] avec a<b. On pose S la somme de ces variables et l’on introduit t un réel strictement positif.

  • (c)

    Montrer que pour tout s>0

    P(S-E(S)t)e-sti=1nE(es(Xi-E(Xi)))exp(-st+n(b-a)28s2).
  • (d)

    En déduire l’inégalité de Chernoff

    P(S-E(S)t)exp(-2t2n(b-a)2).
 
Exercice 11  5365  Correction  
  • (a)

    Énoncer et démontrer l’inégalité de Markov.

  • (b)

    Application: Soit X une variable aléatoire à valeurs réelles.

    Montrer que pour tout réel a

    P(Xa)E(eX-a).

Solution

  • (a)

    Soient X une variable aléatoire à valeurs dans + et a0. Posons A=(Xa). On remarque Xa𝟏A et par croissance et linéarité de l’espérance

    E(X)aE(𝟏A)=aP(A)=aP(Xa)

    ce qui constitue l’inégalité de Markov.

  • (b)

    Par stricte croissance de l’exponentielle, on remarque

    (Xa)=(eXea).

    La variable aléatoire Y=eX est positive et, pour a, l’inégalité de Markov donne

    E(Y)eaP(Yea).

    On en déduit

    P(Xa)e-aE(Y)=E(eX-a).
 
Exercice 12  5367   Correction  

Soient X1,,Xn des variables aléatoires indépendantes de loi uniforme sur {-1,1}. On pose Sn=X1++Xn.

  • (a)

    Soient α et λ des réels strictement positifs. Établir

    P(Snn>α)=P(eλSn>eλnα)
  • (b)

    En déduire que pour tout α>0,

    P(Snn>α)e-nα2/2.

    On admettra l’inégalité ch(λ)eλ2/2 pour tout λR.

  • (c)

    Établir l’inégalité précédemment admise.

Solution

  • (a)

    Soient α et λ des réels strictement positifs. Par stricte croissance de la fonction teλt, on a l’égalité d’événements

    (Snn>α)=(Sn>nα)=(eλSn>eλnα).
  • (b)

    Par l’inégalité de Markov11 1 L’inégalité de Markov propose une majoration de P(Xa). Sachant (X>a)(Xa), elle peut aussi être employée pour majorer P(X>a). appliquée à la variable Y=eλSn, il vient

    P(Snn>α)=P(eλSn>eλnα)e-λnαE(eλSn).

    On peut calculer l’espérance figurant en second membre par l’indépendance des variables X1,,Xn qui entraîne22 2 Cette affirmation se justifie aisément par le . celle des variables eλX1,,eλXn:

    E(eλSn) =E(eλX1××eλXn)
    =E(eλX1)××E(eλXn)
    =(eλ+e-λ2)n=(ch(λ))n.

    En exploitant l’inégalité de la question précédente, on poursuit

    P(Snn>α)e-λnα(ch(λ))ne-λnαenλ2/2.

    Il reste à choisir convenablement la valeur de λ. Pour33 3 Le polynôme du second degré λn2λ2-nαλ est minimal en α. λ=α, on conclut44 4 Ce résultat est un cas particulier de l’inégalité de Chernoff (voir le sujet 5007).

    P(Snn>α)e-nα2enα2/2=e-nα2/2.
  • (c)

    Méthode: On développe en série entière les fonctions des deux membres puis on compare les termes sommés.

    D’une part,

    ch(λ)=p=0+λ2p(2p)!.

    D’autre part,

    eλ2/2=p=0+1p!(λ22)p=p=0+λ2p2pp!.

    Pour tout p, on a 2pp!(2p)! car le premier membre correspond au produit des entiers pairs allant de 1 à 2p alors que le second correspond au produit de tous les entiers allant de 1 à 2p. On a alors

    1(2p)!12pp! puis λ2p(2p)!λ2p2pp! car λ2p0.

    En sommant ces inégalités, on obtient la comparaison voulue.

[<] Moments [>] Fonctions génératrices



Édité le 08-11-2019

Bootstrap Bootstrap 3 - LaTeXML [LOGO] - Powered by MathJax Powered by MathJax