dr Tomasz Walczyński – 

Statystyka  (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

1

6. Prawa wielkich liczb i twierdzenia graniczne

6.1. Rodzaje zbieżności ciągów zmiennych losowych

•

Niech  

X

1,

X

2,



oraz  X  będą   zmiennymi   określonymi   na   przestrzeni

probabilistycznej   (Ω , Α , P) .   Zdefiniujemy   teraz   różne   rodzaje   zbieżności   ciągu
zmiennych   losowej  

{

X

n

, n1}

  do   granicy  X.   Podamy   też   związki   zachodzące

między tymi typami zbieżności.

Zbieżność punktowa

Mówimy,   że   ciąg   zmiennych   losowych  

{

X

n

, n1}

  jest   zbieżny   do   zmiennej

losowej  X  punktowo (lub po prostu zbieżny), jeżeli  

lim

n  ∞

X

n

=

X 

  dla każdego

∈

.

W rachunku prawdopodobieństwa zbieżność punktowa nie odgrywa szczególnej roli

(jest bardzo ważna w analizie matematycznej)

dr Tomasz Walczyński – 

Statystyka  (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

2

Zbieżność prawie pewna

Mówimy,   że   ciąg   zmiennych   losowych  

{

X

n

, n1}

  jest   zbieżny   prawie   pewnie

(prawie wszędzie, prawie zawsze, z prawdopodobieństwem 1) do zmiennej losowej  X,

jeżeli  P {∈ : lim

n ∞

X

n

=

X }=1 .

Zbieżność   tę   oznaczamy   symbolem   X

n



p.p.

X   lub   X

n



p.w.

X lub   X

n



a.s.

X lub

X

n



1

X  lub  X

n



X  z prawdopodobieństwem 1.

Oczywiście, jeżeli ciąg zmiennych losowych  

{

X

n

, n1}

jest zbieżny punktowo do

zmiennej losowej  X, to jest on również prawie pewnie zbieżny do zmiennej losowej X.
Stwierdzenie odwrotne nie jest prawdziwe.

dr Tomasz Walczyński – 

Statystyka  (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

3

Zbieżność według prawdopodobieństwa

Mówimy,   że   ciąg   zmiennych   losowych  

{

X

n

, n1}

  jest   zbieżny   według

prawdopodobieństwa do zmiennej losowej X, jeżeli

dla każdego 



0

  P {∈ :

∣

X

n

−

X 

∣

 } 

0 , gdy 

n ∞

.

Zbieżność tę oznaczamy symbolem  X

n



P

X .

Zbieżność słaba (według rozkładu)

Mówimy,   że   ciąg   zmiennych   losowych  

{

X

n

, n1}

  jest   zbieżny   słabo   (według

rozkładu) do zmiennej losowej X, jeżeli  lim

n  ∞

F

n



x=F  x  w każdym punkcie x ciągłości

funkcji  F, gdzie  

F

n

  jest dystrybuantą zmiennej losowej   X

n

,  

n=1, 2 ,

, a  F  jest

dystrybuantą zmiennej losowej X. 

Zbieżność tę oznaczamy symbolem  X

n

⇒

X  lub  X

n



D

X .

dr Tomasz Walczyński – 

Statystyka  (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

4

Zbieżność w L

p

 (według p-tej średniej)

Mówimy, że ciąg zmiennych losowych  

{

X

n

, n1}

  jest zbieżny w  L

p

  do zmiennej

losowej X, jeżeli 

E

∣

X

n

−

X

∣

p



0

, gdy 

n ∞

, gdzie

0 p∞

.

Zbieżność tę oznaczamy symbolem  X

n



L

p

X .

Spełnione są następujące implikacje:

( X

n



p.p.

X ) ⇒ ( X

n



P

X )

( X

n



L

p

X ) ⇒ ( X

n



P

X )

( X

n



P

X ) ⇒ ( X

n



D

X )

dr Tomasz Walczyński – 

Statystyka  (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

5

6.2. Prawa wielkich liczb

Niech  

{

X

n

, n1}

  będzie   dowolnym   ciągiem   zmiennych   losowych.   Niech

S

n

=

∑

i=1

n

X

i

 oznacza sumę (n-tą sumę częściową) zmiennych losowych 

X

1

, X

2

, , X

n

.

Będziemy   mówić,   że   ciąg   zmiennych   losowych  

{

X

n

, n1}

spełnia  słabe   prawo

wielkich   liczb  (SPWL),   jeżeli   istnieją   ciągi   liczb   rzeczywistych   {A

n

, n1}

i  {B

n

, n1} i  B

n



0 ,  n1 , takie, że

S

n

−

A

n

B

n



P

0 ,gdy 

n ∞

.

Będziemy mówić, że ciąg zmiennych losowych  

{

X

n

, n1}

spełnia mocne  prawo

wielkich   liczb  (MPWL),   jeżeli   istnieją   ciągi   liczb   rzeczywistych   {A

n

, n1}

i  {B

n

, n1} i  B

n



0 ,  n1 , takie, że

S

n

−

A

n

B

n



p.p.

0 , gdy 

n ∞

.

dr Tomasz Walczyński – 

Statystyka  (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

6

Oczywiście jeśli ciąg   zmiennych losowych  

{

X

n

, n1}

  spełnia MPWL to spełnia

również SPWL. W szczególności przyjmuje się, że  A

n

=

ES

n

=

∑

i=1

n

EX

i

 i  B

n

=

n .

Twierdzenie 6.1. (SPWL Bernoulliego)

Jeżeli  p  jest   prawdopodobieństwem   sukcesu   w   ciągu  n  niezależnych   doświadczeń

Bernoulliego,   natomiast   S

n

  jest   liczbą   sukcesów,   czyli  P S

n

=

k =



n

k



p

k



1− p

n−k

,

k =0,1, 2 , , n , to

S

n

n



P

p , gdy 

n ∞

.

dr Tomasz Walczyński – 

Statystyka  (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

7

Twierdzenie 6.2. ( SPWL Czebyszewa)

Niech  

{

X

n

, n1}

  będzie   dowolnym   ciągiem   niezależnych   zmiennych   losowych

takim, że  EX

n

=

a

n

,  E  X

n

−

a

n



2

=

n

2

∞

, 

n1

. Jeżeli 

1

n

2

∑

i=1

n



i

2



0

, gdy 

n ∞

,

to 

S

n

−

ES

n

n



P

0 , gdy 

n ∞

.

Zauważmy, że jeżeli wariancje  

i

2

są wspólnie ograniczone, tzn. istnieje takie  

2

,

że   σ

i

2

≤σ

2

, dla  

i1

, to warunek  

1

n

2

∑

i=1

n



i

2



1

n

2

∑

i=1

n



2



n

2

n

2

=



2

n



0 , gdy 

n ∞

jest spełniony, czyli zachodzi SPWL.

dr Tomasz Walczyński – 

Statystyka  (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

8

Twierdzenie 6.3. (SPWL Poissona)

Niech  

{

X

n

, n1}

  będzie   dowolnym   ciągiem   niezależnych   zmiennych   losowych

takim, że  P  X

n

=

1= p

n

,  P  X

n

=

0=1− p

n

, 

0 p

n



1

, 

n1

. Wtedy 

S

n

−

ES

n

n



P

0 , gdy 

n ∞

.

Twierdzenie 6.4. (

SPWL Chinczyna

)

Niech  

{

X

n

, n1}

  będzie   dowolnym   ciągiem   niezależnych   zmiennych   losowych

o jednakowym rozkładzie takim, że  E

∣

X

1

∣

∞

 i 

EX

1

=

m

. Wtedy

S

n

−

ES

n

n

=

S

n

n

−

m 

P

0 , czyli 

S

n

n



P

m , gdy 

n ∞

.

dr Tomasz Walczyński – 

Statystyka  (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

9

Twierdzenie 6.5. (MPWL Borela)

Jeżeli  P S

n

=

k =



n

k



p

k



1− p

n−k

, 

k =0, 1, 2 , , n

, to 

S

n

n



p.p.

p , gdy 

n ∞

.

Twierdzenie 6.6. (MPWL Kołmogorowa)

Niech  

{

X

n

, n1}

  będzie   dowolnym  ciągiem  niezależnych  zmiennych losowych.

Niech   {b

n

, n1}   będzie dowolnym ciągiem niemalejących liczb rzeczywistych takim,

że 

b

n

∞

, gdy 

n ∞

. Jeżeli 

∑

n=1

∞

VarX

n

b

n

2

∞

, to 

S

n

−

ES

n

b

n

2



p.p.

0 , gdy 

n ∞

.

W szczególności, jeżeli 

∑

n=1

∞

VarX

n

n

2

∞

, to 

S

n

−

ES

n

n



p.p.

0 , gdy 

n ∞

.

dr Tomasz Walczyński – 

Statystyka  (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

10

Twierdzenie 6.7. (

MPWL Kołmogorowa

)

Niech  

{

X

n

, n1}

  będzie   dowolnym   ciągiem   niezależnych   zmiennych   losowych

o jednakowym rozkładzie, takim, że  E

∣

X

1

∣

∞

 i 

EX

1

=

m

. Wtedy

S

n

−

ES

n

n

=

S

n

n

−

m 

p.p.

0 , czyli 

S

n

n



p.p.

m , gdy 

n ∞

.

6.3. Twierdzenia graniczne

Twierdzenia graniczne dotyczą granicznego zachowania się rozkładów sum 

zmiennych losowych. Dzielimy je na dwie grupy:

–

lokalne twierdzenia graniczne;

–

integralne twierdzenia graniczne.

Lokalne   twierdzenia   graniczne   dotyczą   granicznego   zachowania   się   ciągu   funkcji

gęstości lub ciągu prawdopodobieństw.

Integralne twierdzenia graniczne dotyczą rozkładów sum zmiennych losowych. 

dr Tomasz Walczyński – 

Statystyka  (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

11

Dokładniej, twierdzenia te podają warunki na to, aby 

S

n

−

A

n

B

n

⇒

X , 

gdzie  X  jest   pewną   zmienną   losową,  

S

n

=

X

1



X

n

,   n1 ,   {A

n

, n1} ,

{

B

n

, n1} , B

n



0  są pewnymi ciągami liczb rzeczywistych.

Szczególnie   ważną   rolę   odgrywają   twierdzenia   podające   warunki   na   zbieżność

(według rozkładu) do zmiennej losowej o standardowym rozkładzie normalnym  N 0,1 .
Twierdzenia te nazywamy centralnymi twierdzeniami granicznymi.

Twierdzenie 6.7. (Poissona)

Jeżeli  P S

n

=

k =



n

k



p

n

k



1− p

n



n−k

, 

k =0,1, 2,... , n

,  0 p

n



1  

oraz 

np

n



0

, gdy 

n∞

, to 

lim

n ∞

P S

n

=

k =



k

k!

e

−

,  k =0, 1,2, ... .

dr Tomasz Walczyński – 

Statystyka  (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

12

Twierdzenie 6.8. 

(Centralne twierdzenie graniczne Lindeberga-Levy'ego)

Niech  

{

X

n

, n1}

  będzie   dowolnym   ciągiem   niezależnych   zmiennych   losowych

o jednakowym rozkładzie, takim, że  EX

1

=

m ,  E  X

1

−

EX

1



2

=

2

∞

.

Wtedy dla dowolnego 

x ∈R

P

(

S

n

−

ES

n

√

VarS

n

⩽

x

)

=

P

(

S

n

−

nm

σ

√

n

⩽

x

)

→Φ(

x) ,  gdy 

n∞

,

gdzie  x  jest dystrybuantą standardowego rozkładu normalnego.

Twierdzenie 6.9. 

(Twierdzenie de Moivre'a-Laplace'a)

Jeżeli   P S

n

=

k =



n

k



p

k



1− p

n−k

,  

k =0,1, 2,... , n

, to dla dowolnych  

a , b∈R

,

a<b ,   lim

n ∞

P



a

S

n

−

np



npq



b



= 

b− a

dr Tomasz Walczyński – 

Statystyka  (I rok Chemii, specjalności ChK, ChPiS, ACh) - Wykład 6. cz. II (26.03.2014 r.)

13

6.4. Podstawowe nierówności

Podamy teraz podstawowe nierówności stosowane w rachunku prawdopodobieństwa.

Nierówność Markowa: dla każdego  ε>0   P(∣X∣⩾ε)<

E

∣

X

k

∣

ε

k

,  k >0 .

Nierówność Czebyszewa: dla każdego  ε>0   P(∣X −EX∣⩾ε)≤

E ( X −EX )

2

ε

2

=

VarX

ε

2

.

Nierówność Jensena: 

E  X  EX 

, gdzie 



jest funkcją wypukłą

Nierówność Höldera:

E

∣



XY 

∣



E

∣

X

∣

p



1

p



E

∣

Y

∣

q



1
q

 jeżeli 

1

p

+

1
q

=

1, p>1, q>1.

Nierówność Schwartza:

(

E

∣

(

XY )

∣

)

2

⩽

E

∣

X

∣

2

E

∣

Y

∣

2

Nierówność Lapunowa:  E∣X∣

a



1
a



E∣Y∣

b



1
b

, 

0ab∞