1. Definicja σ-algebry zdarzeń.

σ-algebrą (σ-ciałem) zdarzeń przestrzeni Ω nazywamy niepustą klasę F jej podzbiorów spełniającą następujące aksjomaty:

Jeżeli A∈F to A'∈Fgdzie A'=Ω\A

Jeżeli A₁, A₂,...∈F, to

A_i∈F

2. Aksjomatyczna definicja prawdopodobieństwa.

Podał ją Kołmoganow w 1933

Prawdopodobieństwem nazywamy funkcję P przyporządkowującą każdemu zdarzeniu A∈F liczbę P(A) zgodnie z następującymi aksjomatami:

P(A)≥0

P(Ω)=1

Jeżeli A₁,A₂... jest dowolnym ciągiem parami rozłącznych zdarzeń należących do F, to

3. Własności prawdopodobieństwa.

P(∅)=0

Jeżeli A⊂B to P(A)≤P(B)

P(A∪B) = P(A)+P(B)-P(A∩B)

P(A∪B) ≤ P(A)+P(B)

P(A') = 1-P(A)

4. Definicja przestrzeni probabilistycznej.

Trójkę

Ω - przestrzeń zdarzeń elementarnych,

F - niepusta klasa podzbiorów przestrzeni Ω,

P - nazywamy przestrzenią probabilistyczną.

5. Definicja prawdopodobieństwa warunkowego.

Niech (Ω, F, P) będzie dowolna przestrzenią probabilistyczną.

Prawdopodobieństwem warunkowym zdarzenia A, że zaszło zdarzenie B nazywamy

Twierdzenie:

Jeżeli (Ω, F, P) jest przestrzenią probabilistyczną i P(B)>0 dla B∈F to (Ω, F, P*) gdzie P*(A) = P(A/B) jest również przestrzenią probabilistyczną.

6. Definicja zdarzeń niezależnych.

Zdarzenia A i B należące do F nazywamy niezależnymi, jeżeli:

P(A∩B) = P(A)

w przeciwnym wypadku zdarzenia A i B nazywamy zależnymi.

7. Definicja zmiennej losowej.

Niech (Ω, F, P) będzie dowolną przestrzenią probabilistyczną. Zmienną losową X nazywamy funkcję określoną na przestrzeni zdarzeń elementarnych Ω i przyjmującą wartości rzeczywiste

X: ΩR

spełniającą warunek:
{ω: X(ω)<x} = F dla każdego x∈R

Twierdzenie:

Jeżeli X(ω) jest zmienną losową, a h(x) jest funkcją przedziałami ciągłą, której dziedzina zawiera zbiór wartości X, to Y(ω) = h(X(ω)) jest zmienną losową określoną na tej samej przestrzeni probabilistycznej co X.

8. Definicja i własności dystrybuanty.

DEFINICJA:

Dystrybuantą F zmiennej losowej X nazywamy funkcję zmiennej rzeczywistej, określoną wzorem:

F(x) = P({ω:X(ω)<x}) P(X<x)dla każdego x∈R

Twierdzenie:

Funkcja F(x)jest dystrybuantą pewnej zmiennej losowej X wtedy i tylko wtedy, gdy:

F(x) jest niemalejąca,

F(x) jest lewostronnie ciągła,

Uwaga:

Niekiedy dystrybuantę definiuje się wzorem:

F(x) = P(X≤x) dla x∈R

WŁASNOŚCI:

P(a ≤ X ≤ b) = F(b) - F(a)

P(X = a) = F(a+0) - F(a),

gdzie F(a+0) = 

P(X ≥ a) = 1-P(X<a) = 1-F(a)

9. Własności gęstości prawdopodobieństwa.

W punktach różniczkowalności F(x) zachodzi:

f(x) = F'(x)

P(a≤X<b) = P(a≤X≤b) = P(a<X<b) = P(a<X≤b) = 

 

10. Definicja i własności wartości oczekiwanej.

DEFINICJA:

Wartość oczekiwana zmiennej losowej (zmienna matematyczna, wartość średnia lub przeciętna) należy do podstawowych pojęć rachunku prawdopodobieństwa.

Wartością oczekiwaną zmiennej losowej X o dystrybuancie F nazywamy liczbę EX określoną wzorem:

o ile całka ta jest bezwzględnie zbieżna, tzn. o ile istnieje całka

.

Jeżeli
nie istnieje, lub, jeżeli nie jest bezwzględnie zbieżna, to mówimy, że wartości oczekiwana nie istnieje.

EX =

 

WŁASNOŚCI:

Wartość oczekiwana jest operatorem liniowym, tzn.
E(aX+bY) = aEX+bEY, a, b∈R

Jeżeli zmienne losowe X i Y są niezależne, to:

E(X*Y) = EX*EY

Jeżeli h(x) jest przedziałami ciągła, to:

,gdzie F(x) jest dystrybuantą zmiennej losowej X.

W interpretacji mechanicznej wartość oczekiwana jest współrzędną środka masy układu.

11. Definicja i własności wariancji.

DEFINICJA:

Wariancją zmiennej losowej X nazywa się liczbę D²X określoną wzorem:

D²X = E(X-EX)²

WŁASNOŚCI:

D²X≥0

D²X=0 wtedy i tylko wtedy, gdy zmienna losowa X przyjmuje wartość stałą z prawdopodobieństwem 1, tzn. gdy P(X=x₀)=1 dla x₀∈R

D²(aX+b) = a²D²X, gdzie a, b∈R.

Jeżeli X i Y są niezależne, to

D²(X+Y) = D²X+ D²Y

D²X = EX²-(EX)²

12. Definicja i własności rozkładu wykładniczego

λ>0 (parametr rozkładu)

EX = 
D²X = 

Rozkład wykładniczy jest jedynym rozkładem ciągłym, który ma własność „braku pamięci”:

P(X≥(a+b) | X≥a) = P(X≥b)

13. Definicja i własności rozkładu normalnego.

dla x∈R

μ∈R, σ>0 parametry rozkładu.

EX = μ D²X = σ²

σ_x = σ

U = 
 ~ N(μ,σ), N(0;1) to rozkład standaryzowany

Jest to rozkład symetryczny.

Definicja estymatora nieobciążonego.

Jest to estymator
, który przy każdym n spełnia warunek

E
 = Q

Jeżeli
, to estymator Q_n nazywamy asymptotycznie nieobciążonym estymatorem parametru Q

14. Definicja estymatora najefektywniejszego.

Jest to estymator nieobciążony, którego wariancja jest możliwie najmniejsza.

Miarą efektywności nieobciążonego estymatora
jest liczba:

, gdzie
jest estymatorem najefektywniejszym

0<ef
≤1

Jeżeli ef
 = 1, to estymator
jest najefektywniejszy

Jeżeli
, to
nazywamy estymatorem asymptotycznie najefektywniejszym parametru Q.

15. Definicja przedziału ufności.

Przedziałem ufności dla parametru Q, na poziomie ufności „1-α”, α∈(0,1) nazywamy przedział (Q_*,Q*) spełniający warunki:

Jego końce są statystykami,

P(Q_*<Q<Q*) = 1-α

(q_*,q*) to realizacja przedziału ufności.

Przykładowa odpowiedź do zadania:

„Przedział (q_*,q*)z prawdopodobieństwem 1-α pokrywa nieznany parametr Q.

16. Definicja hipotezy statystycznej.

Hipotezą statystyczną nazywamy każde przypuszczenie dotyczące nieznanego rozkładu badanej cechy populacji, które może być zweryfikowane na podstawie pobranej próby.

Hipotezy dzielimy na:

Parametryczne

Nieparametryczne

Hipotezę podlegającą weryfikacji nazywamy hipotezę zerową i oznaczamy H₀.

Każda dopuszczalna hipoteza poza hipotezą zerową nazywa się hipotezą alternatywną i oznaczamy ją H₁.

Sprawdzając hipotezę statystyczną możemy podjąć poprawną decyzję, albo popełnić jeden z następujących błędów: (patrz następne pytania)

17. Definicja błędu I rodzaju.

Jest to błąd polegający na odrzuceniu weryfikowanej hipotezy H₀ gdy jest ona prawdziwa

(prawdopodobieństwo popełnienia oznaczamy przez „α”)

18. Definicja błędu II rodzaju.

Jest to błąd polegający na przyjęciu weryfikowanej hipotezy H₀ gdy jest ona fałszywa

(prawdopodobieństwo popełnienia oznaczamy przez „β”)

Obydwa powyższe błędy są ze sobą sprzężone. Jeżeli opieramy się na tej samej próbie, to mniejsze α pociąga za sobą większe β i na odwrót.

19. Definicja obszaru krytycznego.

R - zbiór wartości statystyki testowej U_n, których wystąpienie jest tak mało prawdopodobne, gdy hipoteza H₀ jest prawdziwa, że odczytujemy je jako zaprzeczenie hipotezie H₀.

20. Od czego zależy obszar krytyczny.

Rozkładu statystyki testowej,

Postaci hipotez,

Prawdopodobieństwa błędów.

Parę (U_n, R) nazywamy testem statystycznym

α = P(U_n∈R | H₀)

β = P(Un∉R | H₁) = 1 - P(U_n∈R | H₀)

21. Definicja poziomu istotności.

Poziom istotności występuje w teście istotności pod postacią prawdopodobieństwa popełnienia błędu I rodzaju „α”.

22. Definicja mocy testu.

Mocą testu nazywamy prawdopodobieństwo odrzucenia hipotezy H₀ gdy prawdziwa jest hipoteza H₁.

P(U_n∈R | H₁) = 1-β

W klasycznej teorii weryfikacji hipotez statystycznych przy ustalonym poziomie ufności α statystykę i obszar krytyczny dobiera się tak, aby możliwie największa była moc testu.

23. Typy decyzji weryfikacyjnych,

dla hipotez przy ustalonym poziomie istotności α:

Jeżeli U_n∈R, to odrzucamy hipotezę H0 z prawdopodobieństwem błędu I rodzaju równym α.

Jeżeli U_n∉R, to nie ma podstaw do odrzucenia hipotezy H₀ z prawdopodobieństwem 1-α

24. Definicja zmiennej losowej dwuwymiarowej.

Niech (Ω, F, P) będzie dowolną przestrzenią probabilistyczną. Zmienną losową dwuwymiarową (X,Y) nazywamy funkcje: (X,Y):ΩR², mierzalną względem σ-algebry zdarzeń F, tzn. spełniającą warunek:

(X,Y) ­­- wektor losowy dwuwymiarowy,

X,Y - jednowymiarowe zmienne losowe.

25. Definicja i własności dystrybuanty zmiennej losowej dwuwymiarowej.

DEFINICJA:

Dystrybuanta (łączną) zmiennej losowej (X,Y) to funkcja F:R²<0,1>, taka że:
F(x,y) = P(X<x,Y<y), dla (x,y)∈R².

WŁASNOŚCI:

Funkcja niemalejąca względem każdego z argumentów,

Jest funkcją co najmniej lewostronnie ciągłą względem każdego z argumentów,

,

F(x₂,y₂) - F(x₂,y₁) - F(x₁,y₂) + F(x₁,y₁) ≥ 0

26. Definicja zmiennych losowych niezależnych.

Mówimy, że zmienne losowe X i Y są niezależne, jeżeli dla dowolnych x,y∈R zachodzi:

F(x,y) = F_X(x)*F_Y(y)

Twierdzenie:

Zmienne losowe X i Y skokowe są niezależne wtedy i tylko wtedy, gdy dla dowolnych i,j∈N zachodzi

p_ij = p_i*p_j.

Twierdzenie:

Zmienne losowe X i Y absolutnie ciągłe są niezależne wtedy i tylko wtedy, gdy dla dowolnych x,y∈R zachodzi:

f(x,y) = f_X(x)*f_Y(y).

27. Definicja i własności kowariancji.

DEFINICJA:

Jest to moment centralny rzędu drugiego:

μ₁₁ = E*[(X-EX)*(Y-EY)] = cov(X,Y).

WŁASNOŚCI:

cov(X,X) = D²X

cov(X,Y) = cov(Y,X)

cov(X,Y) = E(X*Y) - EX*EY

|cov(X,Y)≤σ_X*σ_Y

Jeżeli zmienne losowe X i Y są niezależne to cov(X,Y) = 0

D²(aX+bY+c) = a²D²X+2a*b*cov(X,Y)+b²D²Y gdzie a, b, c∈R

28. Definicja macierzy kowariancji.

Jest to macierz momentów centralnych rzędu drugiego:

korzystając z własności kowariancji otrzymujemy:
macierz kowariancji jest symetryczna.

29. Definicja i własności współczynnika korelacji.

DEFINICJA:

Współczynnikiem korelacji losowych X i Y nazywamy iloraz:

WŁASNOŚCI:

|ρ|≤1

Jeżeli X i Y są niezależne, to ρ = 0

|ρ| = 1 wtedy i tylko wtedy, gdy istnieją stałe a≠0 i b≠0, że

P(Y = aX+b) = 1

30. Definicja zmiennych losowych nieskorelowanych.

Zmienne losowe są nieskorelowane jeżeli ich współczynnik korelacji ρ, ze wzoru

,

jest równy zero.

31. Definicja linii regresji pierwszego rodzaju.

Zbiór punktów na płaszczyźnie R² spełniających równanie:
y = E(Y | X=x) = m₂(x)

Nazywamy linia regresji pierwszego rodzaju zmiennej losowej Y względem X.

Zbiór punktów na płaszczyźnie R² spełniających równanie:
x = E(X | Y=y) = m₁(y)

Nazywamy linia regresji pierwszego rodzaju zmiennej losowej X względem Y.

32. Definicja prostej regresji drugiego rodzaju.

Będziemy poszukiwać najlepszego przybliżenia zmiennej losowej Y liniową funkcją zmiennej losowej X.

Prosta regresji drugiego rodzaju zmiennej losowej Y względem zmiennej losowej X nazywamy prosta:

y = αx+β,

której współczynniki są tak dobrane, aby wyrażenie E[Y-(αx+β)]² było jak najmniejsze.

Twierdzenie:

Wyrażenie E[Y-(αx+β)]² osiąga najmniejszą wartość, gdy:

,
, zatem równanie prostej regresji drugiego rodzaju ma postać:

,

,

- wariancja resztowa (niewyjaśniona liniową regresją)

,

- wariancja wyjaśniona liniową regresją.

33. Definicja i interpretacja współczynnika determinacji.

ρ² (współczynnik determinacji) wskazuje jaką część całkowitej wariancji zmiennej zależnej stanowi wariancja wyjaśniona liniową regresją względem drugiej zmiennej.

34. Własności dwuwymiarowego rozkładu normalnego.

WŁASNOŚCI:

Jeżeli ρ = 0 to zmienne losowe są niezależne,

Rozkłady brzegowe i rozkłady warunkowe są jednowymiarowymi rozkładami normalnymi,

Linie regresji pierwszego rodzaju są liniami prostymi.

1

, gdy X jest zmienną skokową,

, gdy X jest zmienną absolutnie ciągłą.

0 dla x<0

f(x)

λe^-λx dla x≥0

---