pracowanie do zagadnień z RPiS

1. Definicja prawdopodobieństwa

Jeśli zdarzenie E rozkłada się na n wykluczających się wzajemnie i jednakowo możliwych zdarzeń elementarnych, spośród których m sprzyja zajściu interesującego nas zdarzenia A, to prawdopodobieństwem zdarzenia A nazywa się ułamek, w którego liczniku znajduje się liczba zdarzeń sprzyjających zajściu zdarzeniu A, a w mianowniku liczba wszystkich możliwych zdarzeń.
.
Prawdopodobieństwo można rozpatrywać jako funkcję, którą nazywamy rozkładem prawdopodobieństwa na S (s - rodzina zdarzeń elementarnych). Spełnia ona następujący układ aksjomatów :

1. 
   

2. 
   , gdzie Ω to zdarzenie pewne

3. dla każdego ciągu zdarzeń
   zachodzi
   

2. Własności dystrybuanty

Dystrybuantą zmiennej losowej X nazywamy funkcję
. Każda dystrybuanta pozwala jednoznacznie określić rozkład prawdopodobieństwa i odwrotnie.
Własności dystrybuanty:

1. F jest niemalejąca

2. 
   

3. F jest lewostronnie ciągła

3. Sprawdzić , czy funkcja
   może być dystrybuantą rozkładu prawdopodobieństwa

Ad.1) niemalejąca

Ad.2)



Ad.3) F(x) =

a>b => F(b)-F(a)=
-
=

P(<a,b))=F(b)-F(a)

A=<a,b) F <- dystrybuanta

4. Udowodnić, że jeśli P jest rozkładem prawdopodobieństwa na R¹ to funkcja określona wzorem
   ma własności:

1. F jest niemalejąca

2.

3. F jest lewostronnie ciągła

Ad.1) Niech x₁<x₂ będą dowolnymi punktami a
,
dowolnymi zdarzeniami

więc jest niemalejąca
Ad.2)
{x_n} dowolny ciąg rosnący

Ad.3)

(x_n} - ciąg rosnący

, a więc jest lewostronnie ciągła

5. Definicja prawdopodobieństwa warunkowego

Jeżeli
to.
.

Dowód:

1. 
   

2. 
   
   

3. Niech A₁,A₂,... będą zdarzeniami wykluczającymi się.
   
   

=

6. Udowodnić, że P(Ø)=0

Prawdop. zdarzenia niemożliwego wynosi 0.

Dowód : Skoro :
to :

C.N.D.

7. Udowodnić, że P(A)= 1- P(A)

Prawdop. zdarzenia przeciwnego wyraż się:
:

8. Udowodnić, że dla dowolnych dwóch zdarzeń
   

A i B - dowol. Zdarz

Dowód:

,

i
oraz
i
- wzajemnie się wykluczają

9. Udowodnić, że jeśli
   , to
   

Dowód :


a skoro z założenia
to

(stąd dla dowolnego A,
)

10. Sformułować i udowodnić twierdzenie o prawdopodobieństwie zupełnym

Jeżeli zdarzenia A_i (i=1,2,3,...zb. przeliczalny) tworzą układ zupełny zdarzeń oraz
dla każdego i to dla każdego zdarzenia B_j zachodzi równość :

Dowód:

oraz
0 <- układ zupełny


A więc
,
a skoro

to
C.N.D.

11. Sformułować i udowodnić twierdzenie Bayesa

Jeżeli zdarzenia A_i (i=1,2,3,...) tworzą układ zupełny zdarzeń oraz
i B jest dowolnym zdarzeniem, takim że
to dla każdego zdarzenia A_j zachodzi równość


- ukł. zupełny
Dowód: Skoro
i
to

12. Definicja zmiennej losowej

Zmienna losowa x, y, z- jest to funkcja rzeczywista X (
) określona na przestrzeni
zdarzeń elementarnych mająca następującą własność: dla każdej liczby rzeczywistej
zbiór zdarzeń elementarnych w, dla których
jest zdarzeniem, czyli jest elementem rodziny S

Mówimy ,że mamy do czynienia ze zm. los. typu SKOKOWEGO jeżeli jej zb. wartości jest co najwyżej przeliczalny, natomiast mamy do czynienia ze zm. los. typu CIĄGŁEGO jeżeli jej zb. wartości jest zb. nie przeliczalnym.

13. Udowodnić, że
    

Dowód:
Niech :

Skoro

to
,
a więc

14. Rozkład Bernoulliego (dwumianowy)

Zmienna losowa ma rozkład Bernoulliego jeśli liczba sukcesów k w n próbach tego doświadczenia
, przy spełnionych warunkach
.
W rozkładzie Bernoulliego wcześniejsze doświadczeni nie mają wpływu na następne.
Wartość oczekiwana

Wariancja

15. Rozkład Poissona (zm. los. (typu skokowego))

Zmienna losowa ma rozkład Poissona jeśli zmienna X przyjmuje wartości k=0,1,2,3,... i ich prawdopodobieństwo wynosi
, gdzie
.
Wartość oczekiwana


Wariancja

16. Rozkład normalny

Zmienna losowa o wartości oczekiwanej
i wariancji
ma rozkład normalny jeżeli jej funkcja gęstości wyraża się wzorem

Dystrybuanta

Zmienne losowe niezależne X, Y.

17. Rozkład jednostajny

Zmienna losowa typu ciągłego ma rozkład jednostajny na przedziale <a,b> jeżeli jej funkcja gęstości wyraża się wzorem



Dystrybuanta





Wartość oczekiwana -> m=

Wariancja ->

18. Rozkład wykładniczy

Zmienna losowa ma rozkład wykładniczy jeśli jej funkcja gęstości wyraża się wzorem :


. gdzie

Dystrybuanta

Wartość oczekiwana ->

Wariancja ->

19. Napisać funkcję gęstości zmiennej losowej o rozkładzie normalnym z wartością oczekiwaną 5 i odchyleniem standardowym 7

20. Parametry zmiennych losowych ( średnia, wariancja, odchylenie standardowe, mediana
    i wartość modalna)

ŚREDNIA(wartość oczekiwana) E(x)=m

informuje wokół jakiego punktu najczęściej skupiają się wartości zm. losowej

dla zm. losowej typu:

-skokowego

-ciągłego



Wariancja - miara rozproszenia



Odchylenie standardowe -
, pierwiastek z wariancji ,

różnica między wartościami zm. losowej , a wartością oczekiwaną



Mediana

-zm. los. typu skokowego

- zm. los. typu ciągłego


Moda (wartość modalna, dominanta) - wartość zmiennej losowej, której prawdopodobieństwo wystąpienia jest największe (f. gęstości osiąga max)
-zm. skokowa

-zm. ciągła

21. Udowodnić, że jeśli zmienna losowa X ma wartość oczekiwaną m i odchylenie standardowe σ, to zmienna losowa
    ma wartość oczekiwaną 0 i odchylenie standardowe 1

, (gdzie X- zm. los.

22. Twierdzenie Poissona

Niech zmienna losowa X_n ma rozkład Bernoulliego określony wzorem:
k=0,1,…,n. Jeśli prawdopodobieństwo
maleje do 0 w ten sposób, że od pewnego n₀ dla każdego
jest spełniony warunek
, gdzie
jest wielkością stałą, to
. (
- prawdopodobieństwo sukcesu dla określonej zmiennej losowej X_n)
Innymi słowy jeśli wykonujemy dużą liczbę doświadczeń zgodnych ze schematem Bernoulliego, a prawdopodobieństwo sukcesu jest bliskie 0, to zamiast liczyć z rozkładu Bernoulliego liczymy z rozkładu Poissona.

23. Zmienne losowe typu skokowego. Rozkład zmiennej losowej typu skokowego.

Nie wiem dokładnie czy o to chodzi pytanie bardzo ogólnikowe :P

Zmienne losowe typu skokowego , np.: rzut kostką, zbiór wartości jest przeliczalny. Oznaczenie prawdopodobieństwa to określenie prawdopodobieństw dla każdego ze zdarzeń.

24. Zmienne losowe typu ciągłego. Rozkład zmiennej losowej typu ciągłego.

Zmienne losowe typu ciągłego ,(zbiorem wartości jest zbiór liczb rzeczywistych). Są one charakteryzowane przez funkcję gęstości .
Rozkładami zmiennych losowych typu ciągłego są: jednostajny, normalny,wykładniczy.

25. Słabe prawo wielkich liczb

Niech {X_n} będzie ciągiem zmiennych losowych, takim, że dla każdej zmiennej losowej
istnieje wartość oczekiwana
. Jeśli
to mówimy, iż dla ciągu losowego {X_n} zachodzi słabe prawo wielkich liczb.

26. Mocne prawo wielkich liczb

Niech {X_n} będzie ciągiem losowym takim ,że dla każdej zm. los.
istnieje wartość oczekiwana
,jeśli
,to mówimy, iż dla ciągu losowego {X_n} zachodzi mocne prawo wielkich liczb.

27. Słabe prawo wielkich liczb Markowa

Jeśli ciąg losowy {X_n}jest taki, że
, to dla ciągu losowego {X_n} zachodzi słabe prawo wielkich liczb.

28. Mocne prawo wielkich liczb Kołmogorowa

Jeżeli {X_n} jest ciągiem zmiennych losowych niezależnych o wariancjach
i spełniony jest warunek
( szereg jest zbieżny ) to dla ciągu losowego {X_n} zachodzi mocne prawo wielkich liczb.

29. Twierdzenie Lindberga-Levy'ego

Jeżeli {X_n} jest ciągiem niezależnych zmiennych losowych o jednakowych rozkładach mających wartość średnia m i wariancję
to ciąg losowy {U_n} gdzie
jest zbieżny według dystrybuanty do zmiennej losowej o rozkładzie normalnym N(0,1), czyli dla każdego U zachodzi relacja :

Statystyka

30. Określenie populacji i próby

Populacja (generalna) to zbiór jednorodnych obiektów różniących się od siebie jedynie wartościami badanej cechy.

Próbą jest część populacji spełniająca następujące warunki: musi być reprezentatywna i losowa .
Struktura próby musi być taka jak struktura badanej populacji.
Modelem matematycznym próby jest ciąg zmiennych losowych

populacja

próba

n- l. obserwacji (duża)

31. Zasady budowy szeregów rozdzielczych

przedz. klasowe	liczebność	częstość

prawdop. uzyskania przedziału

Zasady:

1. przedziały powinny być liczbami “okrągłymi” (prawostronnie otwarte)

2. o liczbie i długości przedziałów klasowych decyduje specjalista zajmujący się daną dziedziną

R - rozstęp R=x_max-x_min

- orientacja l. przedz.
k - ilość przedziałów
h - długość przedziałów

32. Definicja i własności estymatorów punktowych

Estymatorem parametru Q nazywamy funkcję
, która ma tę własność, że prawdopodobieństwo zdarzenia
jest tym bliższe jedności, im większa jest liczebność próbki.
Estymacja - proces szacowania danych (na podstawie obserwacji)
Estymator - otrzymane oszacowanie
Estymacja punktowa, własności estymatorów ( niech estymator
oznacza estymator parametru Q):

1. nieobciążany
   

2. zgodny
   
   oznacza to, że gdy liczebność próby rośnie, prawdopodobieństwo, że wartość estymatora
   różni się od wartości parametru Q, zbliża się do 1

3. najefektywniejszy ,czyli posiadał najmniejszą wariancję . Oznacza to, że jego wartości są bardziej skupione wokół jego wartości średniej niż innych estymatorów




33. Wyprowadzić wzór na estymator wartości oczekiwanej

ESTYMATOR WARTOŚCI OCZEKIWANEJ



- środek przedziału klasowego ,
- liczebność przedziału

34. Udowodnić, że średnia arytmetyczna jest nie obciążonym estymatorem wartości oczekiwanej

Średnia arytmetyczna jest estymatorem:

1. zgodnym, na podstawie twierdzenia Chinczyna
   
   

2. nie obciążonym
   
   

3. najefektywniejszym (zakładamy, że rozkład cechy w populacji ma rozkład normalny)
   
   
   

35. Wyprowadzić wzór na przedział ufności dla wartości oczekiwanej na podstawie próby z populacji o rozkładzie normalnym ze znanym odchyleniem standardowym






odchylenie standardowe




stąd wynika:


co daje:


36. Omówić zasady testowania hipotez statystycznych

Weryfikacją hipotez nazywamy sprawdzanie sądów o populacji, sformułowanych bez zbadania jej całości. Przebieg procedury weryfikacyjnej wygląda następująco:

a) Sformułowanie hipotezy zerowej i alternatywnej

Hipoteza zerowa (H₀) - Jest to hipoteza poddana procedurze weryfikacyjnej, w której zakładamy, że różnica między analizowanymi parametrami lub rozkładami wynosi zero. Przykładowo wnioskując o parametrach hipotezę zerową zapiszemy jako: H₀: θ₁ = θ₂ .

Hipoteza alternatywna (H₁) - hipoteza przeciwstawna do weryfikowanej. Możemy ją zapisać na trzy sposoby w zależności od sformułowania badanego problemu:

• H₁: θ₁ ≠ θ₂

• H₁: θ₁ > θ₂

• H₁: θ₁ < θ₂

b) Wybór statystyki testowej

Budujemy pewną statystykę W, która jest funkcją wyników z próby losowej W = f(x₁, x₂, ..., x_n) i wyznaczamy jej rozkład przy założeniu, że hipoteza zerowa jest prawdziwa. Funkcję W nazywa się statystyką testową lub funkcją testową.

c) Określenie poziomu istotności α

Na tym etapie procedury weryfikacyjnej przyjmujemy prawdopodobieństwo popełnienia błędu I rodzaju, który polega na odrzuceniu hipotezy zerowej wtedy, gdy jest ona prawdziwa. Prawdopodobieństwo to jest oznaczane symbolem α i nazywane poziomem istotności. Na ogół przyjmujemy prawdopodobieństwo bliskie zeru, ponieważ chcemy aby ryzyko popełnienia błędu było jak najmniejsze. Najczęściej zakładamy, że poziom istotności α≤ 0.1 (np. α=0.01 ; α=0.05 ; α=0.1)

d) Wyznaczenie obszaru krytycznego testu

Obszar krytyczny - obszar znajdujący się zawsze na krańcach rozkładu. Jeżeli obliczona przez nas wartość statystyki testowej znajdzie się w tym obszarze to weryfikowaną przez nas hipotezę H₀ odrzucamy. Wielkość obszaru krytycznego wyznacza dowolnie mały poziom istotności α, natomiast jego położenie określane jest przez hipotezę alternatywną.

Obszar krytyczny od pozostałej części rozkładu statystyki odzielony jest przez tzw. wartości krytyczne testu (w_α), czyli wartości odczytane z rozkładu statystyki przy danym α, tak aby spełniona była relacja zależna od sposobu sformułowania H₁:

• P{|w|≥w_α} = α    gdy H₁: θ₁ ≠ θ₂     (obszar dwustronny)

• P{w ≥w_α} = α    gdy H₁: θ₁ > θ₂     (obszar prawostronny)

• P{w ≤w_α} = α    gdy H₁: θ₁ < θ₂     (obszar lewostronny)

e) Obliczenie statystyki na podstawie próby

Wyniki próby opracowujemy w odpowiedni sposób, zgodnie z procedurą wybranego testu i są one podstawą do obliczenia statystyki testowej. Większość statystyk testowych, mających dokładny rozkład normalny, t-Studenta lub graniczny rozkład normalny, obliczamy w następujący sposób:




gdzie:

• W - Statystyka testowa

• a - Statystyka obliczona z próby

• b - Hipotetyczna wartość parametru(ów)

• c - Odchylenie standardowe rozkładu statystyki

f) Podjęcie decyzji

Wyznaczoną na podstawie próby wartość statystyki porównujemy z wartością krytyczną testu.

• Jeżeli wartość ta znajdzie się w obszarze krytycznym to hipotezę zerową należy odrzucić jako nieprawdziwą. Stąd wniosek, że prawdziwa jest hipoteza alternatywna.

• Jeżeli natomiast wartość ta znajdzie się poza obszarem krytycznym, oznacza to, że brak jest podstaw do odrzucenia hipotezy zerowej. Stąd wniosek, że hipoteza zerowa może, ale nie musi, być prawdziwa.


Reguły postępowania przy weryfikacji hipotez są określane mianem testów statystycznych.

37. Podać przykład testu statystycznego dla wartości średniej

Przypuśćmy, że mamy dokonać oceny jakości partii zapałek, liczącej 10000 pudełek. Producent twierdzi, iż w każdym pudełku są 54 zapałki.
Zakładamy, że sprawdzono 100 pudełek i średnia ilość w nich wyniosła 51,21 , a odchylenie standardowe w próbce równa się 2,45. Niech współczynnik istotności na poziomie którego weryfikujemy hipotezę H₀ (m=54) wynosi 0,002. Wstawiając do wzoru otrzymujemy :

i w tablicach rozkładu normalnego odczytujemy t~3
Hipotezę odrzucamy, gdy
, a więc
,
czyli hipotezę odrzucamy.

38. Omówić test zgodności
    

Test zgodności służy do sprawdzenia hipotezy statystycznej dotyczącej postaci funkcji gęstości lub dystrybuanty rozkładu populacji generalnej. Hipotezy te możemy podzielić na dwie grupy:

1. hipotetyczny rozkład populacji generalnej jest przez hipotezę całkowicie określony

2. parametry hipotetycznego rozkładu należy oszacować z próby


Zakładamy, że populacja ma rozkład o nieznanej dystrybuancie F(x). Z populacji tej wylosowano dużą n-elementową próbę. Wyniki próby są przedstawione w postaci szeregu rozdzielczego o k przedziałach klasowych.
Formułujemy hipotezy: H₀ : F(X) = F₀(X)
H₁ : F(X) <> F₀(X) , gdzie F(X) oznacza dystrybuantę pewnego rozkładu hipotetycznego. Parametry tego rozkładu nie muszą być znane , w razie konieczności ich miejsce wstawiamy ich oszacowania z próby. Możemy podać następujący algorytm postępowania:

3. Z rozkładu hipotetycznego, sformułowanego w hipotezie zerowej H₀, wystarczy dla każdego przedziału klasowego prawdopodobieństwo teoretycznego przyjmowania wartości z tego przedziału przez badaną cechę
   p_i=P(x_i <= ξ <= x_i+1)= F₀(x_i+1) - F₀(x_i)

4. Wyznaczamy dla każdego przedziału liczebności teoretyczne n*p_i , które powinny wystąpić w n-elementowej próbie, gdyby rozkład populacji był zgodny z rozkładem określonym w hipotezie zerowej H₀.

5. Wyznaczymy różnice pomiędzy liczebnościami empirycznymi i teoretycznymi n_i-np_i oraz wartość statystyki testowej
   

Jeżeli rozkład empiryczny nie będzie zgodny z rozkładem hipotetycznym należy spodziewać się, że różnice n_i-np_i pomiędzy liczebnościami empirycznymi i teoretycznymi będą znaczne. Postać statystyki testowej sugeruje, że wówczas będzie ona przyjmować duże wartości. Duże wartości statystyki
będą oznaczały, że hipotezę zerową należy odrzucić.
Niech
oznacza wartość statystyki testowej wyznaczoną na podstawie wyników próby. Hipotezę zerową odrzucamy, gdy prawdziwa jest nierówność
, gdzie
jest wartością odczytaną z tablic rozkładu CHI dla ustalonego poziomu istotności
i (k-r-1) stopni swobody ( r - liczba szacowanych z prób parametrów rozkładu hipotetycznego, niezbędnych do wyznaczenia prawdopodobieństw teoretycznych p_i).

LUB Omówić test zgodności


• test zgodności χ²

pkt.

χ² = suma ( n_i² / np_i ) - n χ²_α - rozk.chi.odw ( α, k-c-1 ) k-przedziałów c-ilosc szacowanych parametrów (2)

(jak przedział ma mniej niż 8 prób to łączymy przedziały)

szereg

xi - sr przedzialu

ui = ( xi - a ) / d a-srodek najliczniejszego przedziału d-szerokość przedziału

przedziły | ni | xi | ui | ui * ni | ui² ni

u sr = suma(ui ni) / suma(ni) s_u² = suma(ui² ni) / suma(ni) - u sr² x sr = a + d * u sr s²_x = d² * s_u² s - odchylenie

przedzialy | ni | zi = (xi - x sr) / s (ostatni ∞) | F(zi) | F(zi) - F(z_i-1) (ostatni 1- F(zk) ) - i to jest pi | ni^2/suma(ni)*pi

i to do χ² = ... F(zi) - rozkład.normalny.s(zi)

39. Omówić test zgodności λ-Kołmogorowa

Z populacji o nieznanej lecz ciągłej dystrybuancie F(X) wylosowano duża próbę prosta n-elementową, na podstawie której zbudowano szereg rozdzielczy. Będziemy weryfikować hipotezę H₀ : F(X)=F₀(X) wobec hipotezy alternatywnej, iż tak nie jest. F₀(X) oznacza hipotetyczna dystrybuantę badanej populacji. Wszystkie parametry dystrybuanty muszą być określone. Statystyka testowa oparta jest o różnicę wartości dystrybuanty hipotetycznej F₀(X) i empirycznej F_n(X), której wartości wyznaczać będziemy ze wzoru
(j w indeksie dolnym).
Algorytm postępowania:

1. Dla każdego prawego końca przedziału klasowego obliczamy wartości dystrybuanty empirycznej i hipotetycznej.

2. Obliczamy wartość statystyki D_n = sup_x |F_n(X) - F₀(X)| , która następnie przekształcamy do postaci
   (statystyka testowa o rozkładzie Kołmogorowa). Można się spodziewać, że duże wartości statystyki
   będą świadczyły o dużych różnicach pomiędzy wartościami dystrybuanty empirycznej i hipotetycznej.
   Weryfikacja hipotezy sprowadza się do :

• sformułowania hipotez

• obliczenia dystrybuanty

• obliczenia wartości statystyki

• porównaniu z danymi z tablic:
  (wtedy odrzucamy)

• jeżeli rozkład empiryczny
  to
  ~ 0

LUB

• test zgodności Kołmogorowa (tylko rozkłady ciągłe próby >100) znane parametry

λ = sqrt (n) * sup (Fn(x) - F(x)) Fn(x) - dystrybuanta empiryczna

λ_0,1 = 1,224 λ_0,05 = 1,358 λ_0,01 = 1,627 if λ > λ_α to odrzucamy

40. Omówić sposób konstrukcji prostej regresji

Wyznaczanie prostej regresji ma zastosowanie w prognozowaniu wartości y dla x nie podlegających pomiarowi.





→
→

następnie te pochodne przyrównujemy do 0 :

otrzymujemy:


41. Regresja wielokrotna

Regresja wielokrotna opisuje zależność jednej zmiennej od wielu innych zmiennych, dalej radźcie sobie sami :P

42. Współczynnik korelacji

i na koniec parę słów o współczynniku korelacji
Badamy związek pomiędzy wartościami zmiennych losowych
i
, czy istnieje zależność i jaki jest jej kształt. Współczynnik korelacji
mierzy siłę zależności między
i
(teoretyczna wartość
). Jeśli
jest zbiorem obserwacji to
jest estymatorem
otrzymanym w wyniku oszacowania współczynnika korelacji na podstawie próby.
hipotezy na temat
weryfikujemy na podstawie wyników statystyki T-Studenta



---