Rozkład wariancji z próby (rozkład
2
)
Pobieramy próbę x
1
,x
2
,...,x
n
z rozkładu
normalnego o a=0 i =1. Dystrybuanta
rozkładu zmiennej x
2
=x
1
2
+x
2
2
+...+x
n
2
jest
dana następującą funkcją:
du
u
u
n
F
n
n
2
1
exp
2
2
1
1
)
(
2
0
1
2
1
2
gdzie (y) jest funkcją gamma Eulera (silnią
uogólnioną na liczby rzeczywiste).
0
)
1
(
dt
e
t
x
t
x
u
2
1
exp
u
2
n
2
1
1
)
(
f
1
n
2
1
n
2
Zatem sam rozkład wariancji jest dany następującą
funkcją
Zasada największej wiarygodności
(Maximum Likelihood Principle)
Mamy próbę (x
1
,x
2
,...,x
n
)
f(x,): funkcja określająca rozkład gęstości
prawdopodobieństwa, gdzie jest
zestawem parametrów rozkładu.
Zasada największej wiarygodności: najlepsze
maksymalizuje prawdopodobieństwo
wystąpienia próby.
Ta zasada jest podstawą wszystkich metod
estymowania parametrów rozkładu
prawdopodobieństwa (a zatem i modelu
matematycznego) z próby danych.
Ponieważ poszczególne elementy próby są
niezależne
dx
x
f
dP
j
j
)
,
(
)
(
)
(
λ
N
j
j
dx
x
f
dP
1
)
(
)
;
(
λ
)
(
)
(
)
;
(
)
;
(
2
1
1
2
)
(
1
1
)
(
λ
λ
λ
λ
L
L
x
f
x
f
Q
N
j
j
N
j
j
iloraz wiarygodności
N
j
j
N
j
j
x
f
L
x
f
L
1
)
(
1
)
(
)
;
(
ln
)
;
(
λ
λ
funkcja
wiarygodności
Przykład jakościowego porównywania dwu
modeli poprzez obliczenie ilorazu
wiarygodności
Rzucamy monetą asymetryczną.
Przypuszczamy, że albo prawdopodobieństwo
wyrzucenia reszki jest 2 razy większe niż
prawdopobobieństwo wyrzucenia orła (A) albo
odwrotnie (B). Przypuśćmy, że w 5 rzutach
otrzymaliśmy 1 raz orła i 4 razy reszkę. Wtedy:
8
,
3
2
3
1
,
3
2
3
1
4
4
B
A
B
A
L
L
Q
L
L
Przykład zastosowania zasady największej
wiarygodności: obliczanie wartości średniej przy
założeniu, że rozkład prawdopodobieństwa jest
rozkładem normalnym
N
j
j
N
j
j
j
N
j
j
j
N
j
j
j
N
j
j
j
j
N
j
j
j
j
j
j
x
x
d
d
x
N
L
x
L
dx
x
dx
x
f
1
2
1
2
)
(
*
1
2
*
)
(
1
2
2
)
(
1
2
2
)
(
1
2
2
)
(
)
(
1
0
2
)
(
2
1
ln
)
2
ln(
2
ln
)
(
2
)
(
exp
2
1
2
)
(
exp
2
1
)
;
(
*
Jeżeli
1
=
2
=…=
n
=
n
j
j
x
n
1
*
1
)
(
''
)
(
)
(
''
)
(
)
(
'
)
(
'
0
)
;
(
)
;
(
'
)
(
'
*
*
*
*
*
1
)
(
)
(
*
*
N
j
j
j
x
f
x
f
Właściwości asymptotyczne funkcji
wiarygodności
Dla dużych prób
2
2
*
2
2
*
*
2
*
2
'
)
(
)
(
'
1
)
(
)
(
*
2
)
(
exp
)
(
2
1
)
(
)
(
/
1
)
(
'
)
;
(
)
;
(
'
)
;
(
)
;
(
'
)
(
''
*
*
b
k
L
b
b
NE
x
f
x
f
NE
x
f
x
f
j
j
N
j
j
j
Przypadek wielowymiarowy
2
2
2
2
1
2
2
2
2
2
2
1
2
2
1
2
2
1
2
2
1
2
*
*
*
*
1
1
*
2
*
)
(
)
(
2
1
)
(
)
(
)
(
2
1
)
(
)
(
*
p
p
p
p
p
T
l
l
p
k
p
l
k
k
l
k
A
λ
λ
A
λ
λ
λ
λ
λ
λ
2
2
2
2
1
2
2
2
2
2
2
1
2
2
1
2
2
1
2
2
1
2
*
*
)
(
)
(
)
(
2
1
exp
p
p
p
p
p
T
E
E
E
E
E
E
E
E
E
E
k
L
A
B
λ
λ
B
λ
λ
Dla dużych prób rozkład parametrów staje się
rozkładem normalnym z macierzą wariancji-kowariancji
B.
Jeżeli jednak liczebność próby jest ograniczona to
odchylenia od normalności rozkładu mogą być
znaczne.
Obszary ufności w przestrzeni
parametrów
Obszar ufności definiujemy jako taki obszar w
otoczeniu wartości oczekiwanej wektora parametrów i
ograniczony powierzchnią o stałej gęstości
prawdopodobieństwa, że prawdopodobieństwo
znalezienia w nim prawdziwych wartości parametrów
jest nie mniejsze niż zadana wartość (kwantyl). W
jednym wymiarze mówimy o przedziale ufności.
1
2
P=g
1
2
*
99
.
0
3
;
683
.
0
)
1
(
)
erf(
2
)
(
)
(
)
(
2
)
(
exp
)
(
*
2
2
*
P
P
g
d
L
d
L
P
kg
k
L
W jednym wymiarze
01439
.
0
,
03734
.
0
,
09020
.
0
19875
.
0
,
39347
.
0
,
68269
.
0
2
1
,
2
)
exp(
)
(
1
)
,
(
2
,
2
)
;
(
6
5
4
3
2
1
0
1
0
2
2
W
W
W
W
W
W
n
P
W
dt
t
t
a
x
a
P
g
n
P
d
n
f
W
n
x
a
g
Ogólnie dla wielowymiarowego rozkładu
Gaussa
