dr Mirosława Szewczyk
1
Statystyka
Wykład 5
Elementy teorii estymacji
5.1.
Podstawowe poj
ę
cia
Proces uogólniania zaobserwowanych w próbie losowej wyników na cał
ą
zbiorowo
ść
statystyczn
ą
nazywamy wnioskowaniem statystycznym. Metody wnioskowania statystycznego obejmuj
ą
estymacj
ę
parametrów zbiorowo
ś
ci generalnej oraz weryfikacj
ę
hipotez statystycznych.
Wnioskowanie statystyczne jako oparte na cz
ęś
ciowej informacji dostarcza jedynie wniosków
wiarygodnych. Dowolne dwie n-elenentowe próby z populacji s
ą
na ogół ró
Ŝ
ne. Wygodnie jest
zatem traktowa
ć
ci
ą
g liczbowy x
1
, x
2
, …, x
n
jako realizacj
ę
ci
ą
gu X
1
, X
2
, …, X
n
, gdzie X
i
, i=1, 2, …, n,
jest zmienn
ą
losow
ą
, której zbiorem mo
Ŝ
liwych warto
ś
ci s
ą
warto
ś
ci i-tego spo
ś
ród n wylosowanych
elementów. Ci
ą
g zmiennych losowych X
1
, X
2
, …, X
n
nazywa si
ę
n-elementow
ą
prób
ą
losow
ą
,
natomiast je
ś
li zmienne X
1
, X
2
, …, X
n
s
ą
niezale
Ŝ
ne i ka
Ŝ
da z nich ma rozkład taki jak rozkład
badanej cechy populacji, to prób
ę
nazywamy prób
ą
prost
ą
.
Jednym z rodzajów wnioskowania jest estymacja. Estymacja (szacowanie, ocenianie) jest
procesem wnioskowania o numerycznych warto
ś
ciach nieznanych wielko
ś
ci charakteryzuj
ą
cych
populacj
ę
generaln
ą
na podstawie danych próbkowych.
Estymatorem parametru
Q
nazywa si
ę
statystyk
ę
(84)
słu
Ŝą
c
ą
do oszacowania nieznanej warto
ś
ci parametru zbiorowo
ś
ci generalnej
Q
.
Wyró
Ŝ
nia si
ę
dwa rodzaje estymacji:
estymacj
ę
punktow
ą
, czyli metod
ę
szacunku za pomoc
ą
której jako warto
ść
parametru
zbiorowo
ś
ci generalnej przyjmuje si
ę
konkretn
ą
warto
ść
estymatora wyznaczonego na podstawie n-
elementowej próby
estymacj
ę
przedziałow
ą
, za pomoc
ą
której wyznacza si
ę
przedział liczbowy, który
z ustalonym prawdopodobie
ń
stwem zawiera nieznana warto
ść
szacowanego parametru zbiorowo
ś
ci
generalnej. Prawdopodobie
ń
stwo to nosi nazw
ę
współczynnika (poziomu) ufno
ś
ci i oznaczane jest
jako 1-
α
, a znaleziony przedział nazywany jest przedziałem ufno
ś
ci.
Interpretacja poziomu ufno
ś
ci jest nast
ę
puj
ą
ca: przy wielokrotnym pobieraniu prób n-
elementowych i wyznaczaniu na ich podstawie granic przedziałów ufno
ś
ci,
ś
rednio w (1-
α
)
⋅
100%
przypadków otrzymujemy przedziały pokrywaj
ą
ce nieznan
ą
warto
ść
Q
.
5.2.
Estymacja punktowa
Warto
ść
liczbow
ą
n
qˆ
estymatora
n
Qˆ
policzon
ą
na podstawie realizacji (x
1
, x
2
, …, x
n
) próby prostej
(X
1
, X
2
, …, X
n
) nazywamy ocen
ą
parametru Q.
)
,...,
,
(
ˆ
2
1
n
n
X
X
X
f
Q
=
dr Mirosława Szewczyk
2
Statystyka
0
)
ˆ
(
lim
=
∞
→
n
n
Q
b
Wyra
Ŝ
enie
Q
Q
n
−
ˆ
nazywa si
ę
bł
ę
dem szacunku, a jego miar
ą
jest zwykle
2
)
ˆ
(
Q
Q
E
n
−
.
Wielko
ść
bł
ę
du szacunku zale
Ŝ
y od doboru próby i od wyboru mo
Ŝ
liwie najlepszego estymatora.
O wykorzystaniu estymatora dla dokonania oszacowania decyduj
ą
jego własno
ś
ci, spo
ś
ród których
szczególnie po
Ŝą
dane s
ą
:
•
nieobci
ąŜ
ono
ść
•
zgodno
ść
•
efektywno
ść
.
Estymatorem
zgodnym
nazywamy
estymator
stochastycznie
zbie
Ŝ
ny
do
parametru
estymowanego, tzn. taki, który dla ka
Ŝ
dego
ε
>0 spełnia równo
ść
:
(85)
Estymator nieobci
ąŜ
ony to taki estymator, którego warto
ść
oczekiwana jest równa
estymowanemu parametrowi, tzn.
Q
Q
E
n
=
)
ˆ
(
. Je
ś
li równo
ść
ta nie zachodzi, to estymator nazywa
si
ę
obci
ąŜ
onym. Obci
ąŜ
eniem estymatora nazywamy wyra
Ŝ
enie
Q
Q
E
Q
b
n
n
−
=
)
ˆ
(
)
ˆ
(
. Estymator,
dla którego
nazywamy estymatorem asymptotycznie nieobci
ąŜ
onym.
Estymator
nieobci
ąŜ
ony
o najmniejszej
wariancji
nazywamy
estymatorem najefektywniejszym. Efektywno
ś
ci
ą
estymatora
n
Qˆ
nazywamy wyra
Ŝ
enie
(86)
gdzie
*
n
Q
oznacza estymator najefektywniejszy.
Estymator, dla którego
1
)
ˆ
(
lim
=
∞
→
n
n
Q
e
nazywamy
estymatorem asymptotycznie najefektywniejszym.
Estymator
n
Qˆ
jest dostateczny, je
Ŝ
eli zawiera wszystkie informacje o parametrze
Q
, które
wyst
ę
puj
ą
w próbie.
Korzystanie z estymatora posiadaj
ą
cego własno
ś
ci zgodno
ś
ci, nieobci
ąŜ
ono
ś
ci i b
ę
d
ą
cego
najbardziej efektywnym pozwala najlepiej oszacowa
ć
nieznany parametr
Q
, poniewa
Ŝ
z du
Ŝ
ym
prawdopodobie
ń
stwem mo
Ŝ
na przyj
ąć
,
Ŝ
e wyznaczona ocena estymatora jest bliska rzeczywistej.
Podstawowymi parametrami, które szacowane s
ą
dla populacji generalnej s
ą
: warto
ść
oczekiwana
(
ś
rednia), wariancja, odchylenie standardowe, frakcja.
Nieobci
ąŜ
onym, zgodnym i efektywnym estymatorem warto
ś
ci oczekiwanej (
ś
redniej) m
w populacji jest
ś
rednia w próbie
(87)
Estymatorem zgodnym, ale obci
ąŜ
onym wariancji
σ
2
w populacji jest wariancja w próbie
(88)
{
}
1
Q
Q
ˆ
P
lim
n
n
=
ε
<
−
∞
→
)
ˆ
(
)
(
)
ˆ
(
2
*
2
n
n
Q
D
Q
D
Q
e
n
=
∑
=
−
=
n
i
i
X
X
n
S
1
2
2
)
(
1
∑
=
=
n
i
i
x
n
X
1
1
dr Mirosława Szewczyk
3
Statystyka
Q
Nieobci
ąŜ
onym i zgodnym estymatorem wariancji
σ
2
w populacji jest wyra
Ŝ
enie
(89)
W badaniach statystycznych cz
ę
sto pojawia si
ę
problem oszacowania prawdopodobie
ń
stwa
wyst
ą
pienia danego wariantu cechy (zwanego sukcesem) lub oszacowania, jaki procent zbiorowo
ś
ci
generalnej posiada wyró
Ŝ
nion
ą
cech
ę
(ewentualnie wariant cechy). Jest to szczególnie wa
Ŝ
ne
w przypadkach, gdy cecha opisuj
ą
ca zbiorowo
ść
jest cech
ą
niemierzaln
ą
i podstawow
ą
charakterystyk
ą
populacji jest frakcja (procent) wyró
Ŝ
nionych elementów, zwana te
Ŝ
wska
ź
nikiem
struktury w populacji. Zadanie sprowadza si
ę
do estymacji parametru p w rozkładzie dwumianowym
(90)
W przypadku, gdy szacujemy p na podstawie n-elementowej próby prostej, estymatorem
zgodnym, nieobci
ąŜ
onym i efektywnym jest cz
ę
sto
ść
wzgl
ę
dna
(91)
gdzie k – liczba elementów wyró
Ŝ
nionych, zaobserwowanych w n-elementowej próbie.
5.3.
Estymacja przedziałowa
Przypomnijmy,
Ŝ
e interpretacja poziomu ufno
ś
ci jest nast
ę
puj
ą
ca: przy wielokrotnym pobieraniu
prób n-elementowych i wyznaczaniu na ich podstawie granic przedziałów ufno
ś
ci, otrzymujemy
ś
rednio w (1-
α
)
⋅
100% przypadków przedziały pokrywaj
ą
ce nieznan
ą
warto
ść
Q (porównaj rysunek
.
Rys. 18. Interpretacja (1-
α
)
⋅
100% realizacji przedziałów ufno
ś
ci dla parametru
Q
.
Ź
ródło: Opracowanie własne.
Wzrostowi deklarowanego poziomu ufno
ś
ci odpowiada wzrost przedziału ufno
ś
ci, co prowadzi do
znanego paradoksu statystycznego,
Ŝ
e im chcemy by
ć
bardziej ufni, tym jeste
ś
my mniej precyzyjni
i odwrotnie. Wzrostowi ufno
ś
ci odpowiada wzrost długo
ś
ci przedziałów, a zatem spadek precyzji
oszacowania parametru
Q
. Dlatego te
Ŝ
nie nale
Ŝ
y ustala
ć
przesadnie wysokich prawdopodobie
ń
stw
1-
α
, bowiem mo
Ŝ
e odpowiada
ć
im zbyt niska precyzja oszacowa
ń
parametrów. Deklarowany poziom
ufno
ś
ci zawiera si
ę
zazwyczaj w granicach od 0,90 do 0,99.
∑
=
−
−
=
n
i
i
X
X
n
S
1
2
2
)
(
1
1
1
k
n
k
q
p
k
n
k
X
P
−
=
=
)
(
n
k
p
=
ˆ
dr Mirosława Szewczyk
4
Statystyka
1)
Przedziały ufno
ś
ci dla warto
ś
ci przeci
ę
tnej m
Ś
rednia warto
ść
badanej cechy jest najcz
ęś
ciej stosowanym parametrem populacji generalnej.
Estymatorem warto
ś
ci przeci
ę
tnej jest
ś
rednia arytmetyczna z próby. Jest ona zmienn
ą
losow
ą
, ma
swój rozkład i spełnia wszystkie własno
ś
ci dobrego estymatora. Konkretna warto
ść
liczbowa
ś
redniej
arytmetycznej jest punktow
ą
ocen
ą
warto
ś
ci oczekiwanej. Dlatego te
Ŝ
, wykorzystuj
ą
c rozkład
ś
redniej
i deklaruj
ą
c poziom ufno
ś
ci 1-
α
, konstruujemy przedział ufno
ś
ci dla warto
ś
ci przeci
ę
tnej. W zale
Ŝ
no
ś
ci
od przyj
ę
tych zało
Ŝ
e
ń
, otrzymuje si
ę
konkretne przedziały ufno
ś
ci w oparciu o rozkład normalny lub
rozkład t-Studenta.
a)
Populacja generalna ma rozkład N(m,
σ
);
σ
– znane
Przedział ufno
ś
ci wyznaczamy na podstawie wzoru:
(92)
gdzie u
α
– warto
ść
odczytana z tablic dystrybuanty rozkładu normalnego standaryzowanego tak,
aby był spełniony warunek
(93)
Uwaga!
W zale
Ŝ
no
ś
ci od typu tablic zawieraj
ą
cych dystrybuant
ę
rozkładu normalnego mo
Ŝ
e zaj
ść
potrzeba
skorzystania z innej zale
Ŝ
no
ś
ci. Na przykład dla tablic zamieszczonych w S. tasiewicz, Z. Rusnak,
U. Siedlecka, Statystyka. Elementy teorii i zadania, Wydawnictwo Akademii Ekonomicznej im. Oskara
Langego, Wrocław 1997, warto
ść
u
α
odczytuje si
ę
z tablic dystrybuanty rozkładu normalnego
standaryzowanego tak, aby był spełniony warunek
(94)
b)
Populacja generalna ma rozkład N(m,
σ
);
σ
– nie jest znane, próba – mała
Przedział ufno
ś
ci wyznaczamy na podstawie wzoru:
(95)
gdzie t
α
,n-1
– warto
ść
odczytana z tablic rozkładu t-Studenta dla poziomu istotno
ś
ci
α
oraz n-1 stopni
swobody, tak aby spełniony był warunek
(96)
n
u
X
m
n
u
X
σ
+
<
<
σ
−
α
α
2
1
)
u
(
α
−
=
Φ
α
1
1
1
,
1
,
−
+
<
<
−
−
−
−
n
S
t
X
m
n
S
t
X
n
n
α
α
2
1
)
(
α
α
−
=
Φ
u
α
α
=
>
−
)
|
(|
1
,n
t
t
P
dr Mirosława Szewczyk
5
Statystyka
Uwaga!
W zale
Ŝ
no
ś
ci od typu tablic mo
Ŝ
e zaj
ść
potrzeba skorzystania z innej zale
Ŝ
no
ś
ci. Je
Ŝ
eli korzystamy
z tablic zbudowanych wył
ą
cznie dla obszaru dwustronnego, chc
ą
c ustali
ć
warto
ść
krytyczn
ą
dla
obszaru jednostronnego, bierzemy podwojon
ą
warto
ść
poziomu istotno
ś
ci 2
α
.
c)
Rozkład dowolny,
σ
– nie jest znana, próba – du
Ŝ
a
Przedział ufno
ś
ci wyznaczamy na podstawie wzoru:
(97)
gdzie u
α
– warto
ść
odczytana z tablic dystrybuanty rozkładu normalnego standaryzowanego tak, aby
był spełniony warunek
(98)
2)
Przedziały ufno
ś
ci dla wariancji i odchylenia standardowego
W badaniach statystycznych ze wzgl
ę
du na cech
ę
mierzaln
ą
do najcz
ęś
ciej szacowanych
parametrów populacji obok
ś
redniej nale
Ŝ
y wariancja (lub odchylenie standardowe) badanej cechy.
W zale
Ŝ
no
ś
ci od przyj
ę
tych zało
Ŝ
e
ń
, otrzymuje si
ę
konkretne przedziały ufno
ś
ci w oparciu o rozkład
normalny lub rozkład
χ
2
.
a)
Populacja generalna ma rozkład N(m,
σ
); próba – mała
Przedział ufno
ś
ci wyznaczamy na podstawie wzoru:
(99)
(100)
gdzie:
–
warto
ś
ci odczytane z tablic rozkładu chi-kwadrat dla n-1 stopni swobody w ten
sposób, aby spełniały równo
ś
ci:
(101)
(102)
b) Populacja generalna ma rozkład N(m,
σ
); próba – du
Ŝ
a
Przedział ufno
ś
ci wyznaczamy na podstawie wzoru:
(103)
n
S
u
X
m
n
S
u
X
α
α
+
<
<
−
S
n
S
n
2
2
2
1
χ
<
σ
<
χ
2
)
(
P
2
1
2
α
=
χ
≥
χ
2
2
2
1
,
χ
χ
2
1
)
(
P
2
2
2
α
−
=
χ
≥
χ
2
2
2
2
2
1
2
χ
σ
χ
nS
nS
<
<
2
2
2
2
2
)
2
1
(
)
2
1
(
n
u
S
n
u
S
α
α
σ
−
<
<
+
2
1
)
u
(
α
−
=
Φ
α
dr Mirosława Szewczyk
6
Statystyka
(104)
gdzie u
α
– warto
ść
odczytana z tablic dystrybuanty rozkładu normalnego standaryzowanego tak, aby
był spełniony warunek
(105)
3) Przedziały ufno
ś
ci dla wska
ź
nika struktury (prawdopodobie
ń
stwa sukcesu, procentu,
odsetka, frakcji)
Nie zawsze badanie statystyczne jest prowadzone ze wzgl
ę
du na cech
ę
mierzaln
ą
. Czasami
badana cecha ma charakter jako
ś
ciowy. Wtedy, zamiast warto
ś
ci liczbowej badanej cechy, z badania
próbnego uzyskujemy jedynie informacj
ę
o tym, czy dany element populacji generalnej ma badan
ą
,
wyró
Ŝ
nion
ą
cech
ę
jako
ś
ciow
ą
, czy te
Ŝ
jej nie ma. Elementy mo
Ŝ
emy podzieli
ć
wówczas na dwie klasy:
posiadaj
ą
ce dan
ą
cech
ę
(tj. elementy wyró
Ŝ
nione)
nie posiadaj
ą
ce danej cechy (tj. elementy niewyró
Ŝ
nione).
Podstawowym parametrem szacowanym w przypadku bada
ń
statystycznych ze wzgl
ę
du na cech
ę
niemierzaln
ą
jest frakcja elementów wyró
Ŝ
nionych w populacji, zwana tak
Ŝ
e wska
ź
nikiem struktury
w populacji. Wska
ź
nik struktury (frakcj
ę
) oznacza si
ę
zwykle liter
ą
p.
Podstaw
ą
konstrukcji przedziału ufno
ś
ci dla prawdopodobie
ń
stwa sukcesu p jest cz
ę
sto
ść
wyst
ę
powania tego sukcesu, czyli k/n, gdzie k – liczba wyst
ą
pie
ń
sukcesu w n-elementowej próbie.
Przedział ufno
ś
ci wyznaczamy tylko na podstawie du
Ŝ
ej próby (przyjmuje si
ę
nawet n
≥
100) ze
wzoru:
(106)
gdzie u
α
– warto
ść
odczytana z tablic dystrybuanty rozkładu normalnego standaryzowanego tak, aby
był spełniony warunek
(107)
4) Wyznaczanie minimalnej liczebno
ś
ci próby
Wyznaczenie niezb
ę
dnej liczebno
ś
ci próby nale
Ŝ
y do podstawowych problemów badawczych.
Chodzi bowiem o wyznaczenie takiej liczebno
ś
ci próby, która pozwala oszacowa
ć
podstawowe
parametry populacji generalnej z zakładan
ą
dokładno
ś
ci
ą
.
Mo
Ŝ
na wskaza
ć
nast
ę
puj
ą
ce sposoby okre
ś
lania liczebno
ś
ci próby:
badacz wybiera prób
ę
na podstawie własnych os
ą
dów
liczebno
ść
próby jest okre
ś
lona poprzez minimalne liczby potrzebnych w tablicy kontyngencji
obserwacji (porównaj testowanie hipotez nieparametrycznych – test niezale
Ŝ
no
ś
ci
χ
2
)
liczebno
ść
próby zostaje ograniczona w zwi
ą
zku z kosztami (ograniczenia bud
Ŝ
etowe)
n
2
u
1
S
n
2
u
1
S
α
α
−
<
σ
<
+
n
n
k
n
k
u
n
k
p
n
n
k
n
k
u
n
k
)
1
(
)
1
(
−
+
<
<
−
−
α
α
2
1
)
u
(
α
−
=
Φ
α
2
1
)
u
(
α
−
=
Φ
α
dr Mirosława Szewczyk
7
Statystyka
ustalenie liczebno
ś
ci próby na podstawie okre
ś
lonego z góry poziomu precyzji (konstruowanie
przedziałów ufno
ś
ci).
Praktyczna u
Ŝ
yteczno
ść
wyznaczonych przedziałów ufno
ś
ci zale
Ŝ
y od popełnianego
maksymalnego bł
ę
du szacunku. Z kolei długo
ść
przedziału zale
Ŝ
y od współczynnika ufno
ś
ci 1-
α
oraz liczebno
ś
ci próby n. W calu zapewnienia odpowiedniej dokładno
ś
ci estymacji przy zadanym
poziomie ufno
ś
ci istnieje konieczno
ść
obliczania niezb
ę
dnej liczebno
ś
ci próby dla konstruowanych
przedziałów ufno
ś
ci.
Niech cecha X na rozkład normalny N(m,
σ
). Minimaln
ą
liczebno
ść
próby, niezb
ę
dn
ą
do oszacowania
warto
ś
ci m na poziomie ufno
ś
ci 1-
α
, z maksymalnym bł
ę
dem szacunku nie przekraczaj
ą
cym
x
d
,
przy zało
Ŝ
eniu,
Ŝ
e
σ
2
jest znane, obliczamy ze wzoru:
(108)
gdzie
u
α
– warto
ść
odczytana z tablic dystrybuanty rozkładu normalnego standaryzowanego tak, aby był
spełniony warunek
(109)
Je
Ŝ
eli
σ
2
nie jest znane, to na podstawie wst
ę
pnej próby licz
ą
cej n
0
elementów, przedstawionych
w postaci szeregu szczegółowego wyznacza si
ę
:
(110)
Z tablic rozkładu t-Studenta odczytujemy t
α
,n0-1
dla n
0
-1 stopni swobody, tak aby spełniony był warunek
(111)
Wówczas:
(112)
Uwagi!
Je
Ŝ
eli n nie jest liczb
ą
całkowit
ą
, to wynik nale
Ŝ
y zaokr
ą
gli
ć
w gór
ę
.
Je
Ŝ
eli obliczona liczebno
ść
próby jest ze wzgl
ę
dów praktycznych za du
Ŝ
a, to mniejsz
ą
liczebno
ść
otrzymamy zwi
ę
kszaj
ą
c maksymalny bł
ą
d szacunku, a wi
ę
c zmniejszaj
ą
c dokładno
ść
oszacowania.
2
2
2
x
d
u
n
σ
α
⋅
=
2
1
)
u
(
α
−
=
Φ
α
∑
=
−
−
=
n
i
i
X
X
n
S
1
2
0
2
)
(
1
1
1
2
2
2
1
,
1
0
x
n
d
S
t
n
⋅
=
−
α
α
α
=
>
−
)
|
(|
1
,
n
t
t
P
dr Mirosława Szewczyk
8
Statystyka
5.4.
Zagadnienia i pytania kontrolne
Pytania kontrolne:
1. Co to jest wnioskowanie statystyczne? Jakie metody obejmuje?
2. Co oznacza poj
ę
cie „estymacja”?
3. Jakie s
ą
rodzaje estymacji?
4. Jakie własno
ś
ci estymatora uznawane s
ą
za po
Ŝą
dane?
5. Co to jest estymator zgodny?
6. Co to jest estymator nieobci
ąŜ
ony?
7. Co to jest estymator efektywny?
8. Co to jest estymator dostateczny?
9. Podaj przykład estymatora zgodnego.
10. Podaj przykład estymatora efektywnego.
11. Podaj przykład estymatora nieobci
ąŜ
onego.
12. Podaj przykład estymatora obci
ąŜ
onego.
13. Uzupełnij zdanie: „Do najcz
ęś
ciej szacowanych parametrów populacji nale
Ŝą
:…”.
Problemy do dyskusji:
1. Od czego zale
Ŝ
y praktyczna u
Ŝ
yteczno
ść
wyznaczonych przedziałów ufno
ś
ci?
2. Dlatego te
Ŝ
nie nale
Ŝ
y ustala
ć
przesadnie wysokich poziomów ufno
ś
ci 1-
α
?