1
1
Klasyczny model
Klasyczny model
regresji liniowej –
regresji liniowej –
przypadek wielu
przypadek wielu
zmiennych
zmiennych
objaśniających
objaśniających
1
1
Klasyczny model
Klasyczny model
regresji liniowej –
regresji liniowej –
przypadek wielu
przypadek wielu
zmiennych
zmiennych
objaśniających
objaśniających
2
2
Model ekonometryczny
Model ekonometryczny
jest równaniem (lub układem
jest równaniem (lub układem
równań), które przedstawia
równań), które przedstawia
zasadnicze powiązanie ilościowe
zasadnicze powiązanie ilościowe
między rozpatrywanymi
między rozpatrywanymi
zjawiskami ekonomicznymi
zjawiskami ekonomicznymi
3
3
Ze względu na rolę zjawisk
Ze względu na rolę zjawisk
ekonomicznych w modelu
ekonomicznych w modelu
ekonometrycznym można
ekonometrycznym można
wyróżnić
wyróżnić
•
zjawisko ekonomiczne wyjaśniane
zjawisko ekonomiczne wyjaśniane
przez model (czyli zmienną
przez model (czyli zmienną
objaśnianą)
objaśnianą)
•
zjawiska, które oddziałują na
zjawiska, które oddziałują na
zmienną objaśnianą (czyli zmienne
zmienną objaśnianą (czyli zmienne
objaśniające)
objaśniające)
4
4
Dane dotyczące sprzedaży
Dane dotyczące sprzedaży
wody mineralnej
wody mineralnej
Tygodni
e
Ilość sprzedanej wody
Mineralnej (tyś. litrów)
Cena
jednego
litra (zl.)
Wydatki
na
rekłamu
(zl.)
Y
X
1
X
2
1
10
1,3
9
2
6
2
7
3
5
1,7
5
4
12
1,5
14
5
10
1,6
15
6
15
1,2
12
7
5
1,6
6
8
12
1,4
10
9
17
1
15
10
20
1,1
21
5
5
Modele ekonometryczne można
Modele ekonometryczne można
sklasyfikować według różnych
sklasyfikować według różnych
kryteriów:
kryteriów:
1. Liczby równań w modelu
1. Liczby równań w modelu
model jednorównaniowy
model jednorównaniowy
model wielorównaniowy
model wielorównaniowy
2. Liczby zmiennych objaśniających
2. Liczby zmiennych objaśniających
modele z jedną zmienną objaśniającą
modele z jedną zmienną objaśniającą
modele z wieloma zmiennymi
modele z wieloma zmiennymi
objaśniającymi
objaśniającymi
3. Postaci analitycznej
3. Postaci analitycznej
modele liniowe
modele liniowe
modele nieliniowe
modele nieliniowe
4. Roli czynnika czasu w równaniach modelu
4. Roli czynnika czasu w równaniach modelu
modele statyczne
modele statyczne
modele dynamiczne
modele dynamiczne
6
6
Wykres rozrzutu zmiennych X
Wykres rozrzutu zmiennych X
1
1
i Y
i Y
(cena i ilość sprzedaży)
(cena i ilość sprzedaży)
7
7
Wykres rozrzutu zmiennych X
Wykres rozrzutu zmiennych X
2
2
i Y
i Y
(cena i reklama)
(cena i reklama)
8
8
Obser-
Obser-
wacje
wacje
Zmienna
Zmienna
objaśniana
objaśniana
(zależna)
(zależna)
Zmienne objaśniające
Zmienne objaśniające
(niezależne)
(niezależne)
Y
Y
X
X
1
1
X
X
2
2
X
X
k
k
1
1
Y
Y
1
1
X
X
11
11
X
X
12
12
X
X
1k
1k
2
2
Y
Y
2
2
X
X
21
21
X
X
22
22
X
X
2k
2k
3
3
Y
Y
3
3
X
X
31
31
X
X
32
32
X
X
3k
3k
…
…
…
…
…
…
…
…
…
…
n
n
Y
Y
n
n
X
X
n1
n1
X
X
n2
n2
X
X
nk
nk
9
9
Obliczenie
Obliczenie
2
2
2
2
Y
Y
n
X
X
n
Y
X
XY
n
r
86
,
0
7
,
138
8
,
119
112
488
,
1
10
4
,
14
56
,
21
10
112
4
,
14
3
,
149
10
2
2
1
yx
r
10
10
Macierz współczynników
Macierz współczynników
korelacji
korelacji
Y
X
1
X
2
Y
1
X
1
-
0,
8
6
1
X
2
0,89
-
0,
6
5
1
11
11
Y
X
1
X
2
1
2
Okrąg Y reprezentuje
wariancje zmiennej
zależnej
Okręgi X
1
i X
2
reprezentują wariancje
zmiennych niezależnych
Obszar 1 odpowiada
tej części wariancji
Y, która poprzez
model wyjaśnia
zmienność X
1
Obszar 2
odpowiada tej
części wariancji Y,
która poprzez
model wyjaśnia
zmienność X
2
12
12
Y
X
1
X
2
1
2
Sytuacja, gdy nie ma
korelacji między
zmiennymi X
1
i X
2
13
13
Y
X
1
X
2
Sytuacja, gdy
zmienne niezależne
X
1
i X
2
również
skorelowane
(obszar 3)
3
Powoduje to, iż część
wariancji Y może zostać
przypisana jednocześnie
zmienności X
1
lub X
2
14
14
Y
X
1
X
2
Zwykłe wymaga się dodatkowo,
aby współczynnik korelacji
pomiędzy zmiennymi
niezależnymi był mniejszy od
współczynnika korelacji
pomiędzy Y a X
15
15
Y
Y
Y
Y
X
1
X
1
X
1
X
1
X
2
X
2
X
2
X
2
b
a
c
d
16
16
Macierz współczynników
Macierz współczynników
korelacji
korelacji
Y
X
1
X
2
Y
1
X
1
-
0,
8
6
1
X
2
0,89
-
0,
6
5
1
17
17
Liniowy model regresji
Liniowy model regresji
wielu zmiennych
wielu zmiennych
Y
Y
– zmienna objaśniana
– zmienna objaśniana
X
X
k
k
– zmienne objaśniające
– zmienne objaśniające
β
β
0
0
β
β
1
1
…
…
β
β
k
k
–
–
nieznane parametry strukturalne
nieznane parametry strukturalne
modelu
modelu
ε
ε
-
-
składnik losowy
składnik losowy
k
k
– numeruje kolejne zmienne objaśniające
– numeruje kolejne zmienne objaśniające
k
k
X
X
X
Y
...
2
2
1
1
0
18
18
Metoda najmniejszych
Metoda najmniejszych
kwadratów
kwadratów
opiera się na koncepcji poszukiwania takich
opiera się na koncepcji poszukiwania takich
warto
warto
ś
ś
ci
ci
b
b
0
0
b
b
1
1
… b
… b
k
k
parametrów
parametrów
strukturalnych
strukturalnych
β
β
0
0
,
,
β
β
1
1
…
…
β
β
k
k
przy których
przy których
suma kwadratów reszt osiąga minimum
suma kwadratów reszt osiąga minimum
n
i
i
i
n
i
i
Y
Y
e
SSE
1
2
1
2
)
ˆ
(
n
i
i
i
i
X
b
X
b
b
Y
1
2
2
2
1
1
0
)
(
min
n
i
i
e
1
2
19
19
b
b
1
1
= -8,248
= -8,248
b
b
0
0
= 16,406
= 16,406
Ŷ
Ŷ
= 16,406 – 8,248
= 16,406 – 8,248
X
X
1
1
+ 0,585
+ 0,585
X
X
2
2
2
2
1
1
0
ˆ
i
i
i
X
b
X
b
b
Y
b
b
2
2
= 0,585
= 0,585
20
20
21
21
Weryfikacja modelu
Weryfikacja modelu
ekonometrycznego
ekonometrycznego
1. Badanie dopasowania modelu do danych
1. Badanie dopasowania modelu do danych
obserwowanych
obserwowanych
współczynnik determinacji i współczynnik
współczynnik determinacji i współczynnik
zbieżności
zbieżności
współczynnik zmienności losowej
współczynnik zmienności losowej
2. Badanie istotności parametrów
2. Badanie istotności parametrów
strukturalnych
strukturalnych
β
β
i
i
test
test
t-Studenta
t-Studenta
test F
test F
3. Badanie własności odchyleń losowych
3. Badanie własności odchyleń losowych
losowość składnika losowego
losowość składnika losowego
normalność rozkładu składnika losowego
normalność rozkładu składnika losowego
jednorodność wariancji składnika losowego
jednorodność wariancji składnika losowego
autokorelacja składnika losowego
autokorelacja składnika losowego
22
22
1. Badanie dopasowania
1. Badanie dopasowania
modelu do danych
modelu do danych
obserwowanych
obserwowanych
23
23
Dokładność dopasowania
Dokładność dopasowania
prostej metodą najmniejszych
prostej metodą najmniejszych
kwadratów
kwadratów
Punktem wyjścia przy dokonywaniu
Punktem wyjścia przy dokonywaniu
pomiaru dokładności dopasowania
pomiaru dokładności dopasowania
prostej regresji do danych empirycznych
prostej regresji do danych empirycznych
jest następujący podział odchylenia
jest następujący podział odchylenia
obserwowanej wartości Y
obserwowanej wartości Y
i
i
od średniej Y
od średniej Y
̅
̅
)
ˆ
(
)
ˆ
(
i
i
i
i
Y
Y
Y
Y
Y
Y
24
24
Pierwszy z tych składników (
Pierwszy z tych składników (
Ŷ
Ŷ
i
i
–
– Ῡ
)
)
można traktować jako tę część
można traktować jako tę część
całkowitego odchylenia Y
całkowitego odchylenia Y
i
i
od
od Ῡ
, która
, która
jest wyjaśniona regresją Y względem X.
jest wyjaśniona regresją Y względem X.
Drugi składnik
Drugi składnik
(Y
(Y
i
i
-
-
Ŷ
Ŷ
i
i
) jest resztą e
) jest resztą e
i
i
dla
dla
x=x
x=x
i
i
, a zatem jest to ta część
, a zatem jest to ta część
całkowitego odchylenia Y
całkowitego odchylenia Y
i
i
od Y, która
od Y, która
nie została wyjaśniona regresją Y
nie została wyjaśniona regresją Y
względem X
względem X
)
ˆ
(
)
ˆ
(
i
i
i
i
Y
Y
Y
Y
Y
Y
25
25
Analogiczna równość zachodzi
Analogiczna równość zachodzi
także dla sum kwadratów
także dla sum kwadratów
odpowiednich odchyleń
odpowiednich odchyleń
n
i
n
i
i
i
i
n
i
i
Y
Y
Y
Y
Y
Y
1
1
2
2
1
2
)
ˆ
(
)
ˆ
(
)
(
26
26
n
i
n
i
i
i
i
n
i
i
Y
Y
Y
Y
Y
Y
1
1
2
2
1
2
)
ˆ
(
)
ˆ
(
)
(
n
i
i
Y
Y
SST
1
2
)
(
n
i
i
Y
Y
SSE
1
2
)
ˆ
(
n
i
i
Y
Y
SSR
1
2
)
ˆ
(
SST = SSR + SSE
odchylenie
odchylenie
odchylenie
całkowite
wyjaśnione regresją
niewyjaśnione
regresją
27
27
n
i
i
Y
Y
SST
1
2
)
(
n
i
i
Y
Y
SSE
1
2
)
ˆ
(
n
i
i
Y
Y
SSR
1
2
)
ˆ
(
SST = SSR + SSE
odchylenie
odchylenie
odchylenie
całkowite
wyjaśnione regresją
niewyjaśnione
regresją
SS – Sum of Squares
SS – Sum of Squares
T – Total
T – Total
R – Regression
R – Regression
E – Error
E – Error
28
28
Postępując analogicznie jak przy
Postępując analogicznie jak przy
konstrukcji współczynnika korelacji,
konstrukcji współczynnika korelacji,
tzn. dzieląc sumę kwadratów odchyleń
tzn. dzieląc sumę kwadratów odchyleń
wyjaśnioną regresją przez całkowitą sumę
wyjaśnioną regresją przez całkowitą sumę
kwadratów odchyleń,
kwadratów odchyleń,
otrzymamy miarę dokładności dopasowania
otrzymamy miarę dokładności dopasowania
prostej
prostej
współczynnik determinacji
współczynnik determinacji
(r
(r
2
2
)
)
SST
SSE
Y
Y
Y
Y
SST
SSR
Y
Y
Y
Y
r
n
i
i
n
i
i
i
n
i
i
n
i
i
1
)
(
)
ˆ
(
1
)
(
)
ˆ
(
1
2
1
2
1
2
1
2
2
29
29
Współczynnik determinacji
Współczynnik determinacji
(r
(r
2
2
)
)
informuje, jaka część całkowitej zmienności
informuje, jaka część całkowitej zmienności
zmiennej objaśnianej (Y) stanowi
zmiennej objaśnianej (Y) stanowi
zmienność wyjaśniona przez model
zmienność wyjaśniona przez model
calkowite
odchylenie
regresja
wyjasnione
odchylenie
Y
Y
Y
Y
r
n
i
i
n
i
i
_
_
_
)
(
)
ˆ
(
1
2
1
2
2
calkowite
odchylenie
regresja
one
niewyjasni
odchylenie
Y
Y
Y
Y
r
n
i
i
n
i
i
i
_
_
_
1
)
(
)
ˆ
(
1
1
2
1
2
2
30
30
Y
X1
X2
Ŷ
(Y-Ŷ)
(Y-Ŷ)^2
10
1,3
9
10,95
-0,95
0,90
6
2
7
4,01
2,00
3,98
5
1,7
5
5,31
-0,31
0,10
12
1,5
14
12,22
-0,22
0,05
10
1,6
15
11,98
-1,98
3,94
15
1,2
12
13,53
1,47
2,17
5
1,6
6
6,72
-1,72
2,96
12
1,4
10
10,71
1,29
1,67
17
1
15
16,93
0,07
0,00
20
1,1
21
19,62
0,38
0,15
Suma
0,02
15,90
Dane dotyczące sprzedaży wody
Dane dotyczące sprzedaży wody
mineralnej
mineralnej
SSE
31
31
SST = 233,6
SST = 233,6
SSE = 19,9
SSE = 19,9
SSR = SST – SSE =
SSR = SST – SSE =
= 233,6 – 19,9 = 117,7
= 233,6 – 19,9 = 117,7
93
,
0
6
,
233
7
,
217
2
SST
SSR
r
32
32
Sum of
Sum of
Squares
Squares
SSE
SST
SSR
33
33
SST
r
2
SSR
34
34
r
r
2
2
r
r
35
35
(współczynnik korelacji)
(współczynnik korelacji)
2
2
= współczynnik
= współczynnik
determinacji
determinacji
(r)
(r)
2
2
= r
= r
2
2
(0,965)
(0,965)
2
2
= 0,932
= 0,932
36
36
Y
X1
X2
Ŷ
(Y-Ŷ)
(Y-Ŷ)^2
10
1,3
9
10,95
-0,95
0,90
6
2
7
4,01
2,00
3,98
5
1,7
5
5,31
-0,31
0,10
12
1,5
14
12,22
-0,22
0,05
10
1,6
15
11,98
-1,98
3,94
15
1,2
12
13,53
1,47
2,17
5
1,6
6
6,72
-1,72
2,96
12
1,4
10
10,71
1,29
1,67
17
1
15
16,93
0,07
0,00
20
1,1
21
19,62
0,38
0,15
Dane dotyczące sprzedaży wody
Dane dotyczące sprzedaży wody
mineralnej
mineralnej
37
37
r
2
bliskie 1
r
2
bliskie 0
r
2
bliskie 0
38
38
Stopnie swobody
Stopnie swobody
Przez
Przez
stopnie swobody
stopnie swobody
rozumie się
rozumie się
liczbę niezależnych wyników obserwacji
liczbę niezależnych wyników obserwacji
pomniejszoną o liczbę związków, które
pomniejszoną o liczbę związków, które
łączą wyniki obserwacji ze sobą
łączą wyniki obserwacji ze sobą
10 + 5 = 15
10 + 5 = 15
Liczba stopni swobody
Liczba stopni swobody
wskazuje, jak
wskazuje, jak
wiele niezależnych informacji
wiele niezależnych informacji
zawartych w
zawartych w
n
n
niezależnych
niezależnych
wartościach y
wartościach y
1
1
, y
, y
2
2
, … , y
, … , y
n
n
jest
jest
potrzebnych do zestawienia danej
potrzebnych do zestawienia danej
sumy kwadratów
sumy kwadratów
1
2
3
???
n-1 stopni
swobody
3-1=2
39
39
Stopnie swobody
Stopnie swobody
n
i
i
Y
Y
SST
1
2
)
(
ma n-1 stopni swobody,
ma n-1 stopni swobody,
ponieważ mamy n
ponieważ mamy n
obserwacji oraz jeden
obserwacji oraz jeden
łączący je związek,
łączący je związek,
mianowicie
mianowicie
ma k stopni swobody.
ma k stopni swobody.
potrzeba k informacji
potrzeba k informacji
uzyskanych na podstawie
uzyskanych na podstawie
Y
Y
1
1
, Y
, Y
2
2
, … , Y
, … , Y
n
n
, mianowicie:
, mianowicie:
b
b
1
1
, b
, b
2
2
, … , b
, … , b
k
k
ma n-k-1 stopni swobody,
ma n-k-1 stopni swobody,
gdyż jest n obserwacji oraz
gdyż jest n obserwacji oraz
k+1 związków określonych
k+1 związków określonych
przez układ równań
przez układ równań
normalnych
normalnych
n
i
i
n
i
i
e
Y
Y
SSE
1
2
1
2
)
ˆ
(
n
i
i
Y
n
Y
1
n
i
i
Y
Y
SSR
1
2
)
ˆ
(
40
40
Stopnie swobody
Stopnie swobody
n
i
i
Y
Y
SST
1
2
)
(
n
i
i
n
i
i
e
Y
Y
SSE
1
2
1
2
)
ˆ
(
n
i
i
Y
Y
SSR
1
2
)
ˆ
(
df (SST) = n-1
df (SST) = n-1
df (SSR) = k
df (SSR) = k
df (SSE) = n-k-1
df (SSE) = n-k-1
degree of freedom
liczba stopni
swobody
41
41
degree of
freedom
liczba stopni
swobody
2
2
10-2-
10-2-
1
1
10-
10-
1
1
n
n
42
42
)
1
/(
)
1
/(
1
)
1
/(
)
(
)
1
/(
)
ˆ
(
1
2
1
1
2
2
n
SST
k
n
SSE
n
Y
Y
k
n
Y
Y
r
n
i
i
n
i
i
i
dop
r
2
= 0,93
r
2
dop
= 0,91
r
2
– r
2
dop
<
5%
43
43
Wartość średnia kwadratów
Wartość średnia kwadratów
reszt
reszt
Wartość średnia kwadratów reszt
Wartość średnia kwadratów reszt
(wariancja składnika losowego) MSE
(wariancja składnika losowego) MSE
mówi o
mówi o
zgodności z danymi obserwowanymi w modelu.
zgodności z danymi obserwowanymi w modelu.
(informuje o zmienności składnika losowego)
(informuje o zmienności składnika losowego)
1
1
1
)
ˆ
(
1
2
1
2
k
n
SSE
k
n
e
k
n
Y
Y
MSE
n
i
i
n
i
i
44
44
Wartość średnia kwadratów
Wartość średnia kwadratów
reszt
reszt
Suma
Suma
kwadrató
kwadrató
w
w
Stopnie
swobod
y
Wartość średnia
Wartość średnia
kwadratów
kwadratów
Regresja
Regresja
SSR
SSR
k
k
MSR = SSR / k
MSR = SSR / k
Resztkow
Resztkow
y
y
SSE
SSE
n-k-1
n-k-1
MSE = SSE /
MSE = SSE /
(n-k-1)
(n-k-1)
Razem
Razem
SST
SST
n-1
n-1
45
45
Wartość
średnia
kwadratów
reszt
Mean of Squares
Wartość średnia
kwadratów
SSE
n-k-1
46
46
Odchylenie standardowe
Odchylenie standardowe
reszt
reszt
Odchylenie standardowe reszt
Odchylenie standardowe reszt
(standardowy błąd estymacji)
(standardowy błąd estymacji)
informuje
informuje
o ile średnio wartości obserwowane Y
o ile średnio wartości obserwowane Y
odchylają się od wartości prognozowanych
odchylają się od wartości prognozowanych
Ŷ
Ŷ
modelu
modelu
1
1
2
k
n
e
MSE
S
n
i
i
47
47
S
MSE
√
48
48
1,51 ???
?
49
49
Y [5;20] S = 2,7
Y [5;20] S = 2,7
2,7x
2
Y i
X
1
S = 1,5
S = 1,5
Y i X
1
,
X
2
50
50
X̅
Ῡ
Przedział
ufności dla
linii regresji
linia
regresji
51
51
2. Badanie istotności
2. Badanie istotności
parametrów
parametrów
strukturalnych
strukturalnych
β
β
i
i
52
52
Pierwszym krokiem weryfikacji oszacowanego
Pierwszym krokiem weryfikacji oszacowanego
modelu jest badanie istotności parametrów
modelu jest badanie istotności parametrów
strukturalnych w celu sprawdzenia, które ze
strukturalnych w celu sprawdzenia, które ze
zmiennych objaśniających istotnie wpływają na
zmiennych objaśniających istotnie wpływają na
opisywany proces
opisywany proces
Wymaganie jest, aby wszystkie zmienne objaśniające
Wymaganie jest, aby wszystkie zmienne objaśniające
modelu były istotnie
modelu były istotnie
Zazwyczaj nie bada się istotność wyrazu wolnego
Zazwyczaj nie bada się istotność wyrazu wolnego
β
β
0
0
,
,
ponieważ bez względu na to jaki ma on wpływ na
ponieważ bez względu na to jaki ma on wpływ na
zmienną objaśnianą nie usuwa się go z modelu
zmienną objaśnianą nie usuwa się go z modelu
ik
k
i
i
i
X
X
X
Y
...
2
2
1
1
0
Istotność parametrów strukturalnych
Istotność parametrów strukturalnych
β
β
i
i
53
53
2.1. Test
2.1. Test
t-Studenta
t-Studenta
Badanie istotności parametrów strukturalnych
Badanie istotności parametrów strukturalnych
modelu polega na weryfikacji hipotez postaci
modelu polega na weryfikacji hipotez postaci
H
H
0
0
:
:
β
β
j
j
= 0
= 0
H
H
A
A
:
:
β
β
j
j
≠ 0
≠ 0
parametr
parametr
β
β
j
j
nieistotnie różni się od
nieistotnie różni się od
zera
zera
zmienna objaśniająca X
zmienna objaśniająca X
j
j
nieistotnie
nieistotnie
wpływa na zmienną objaśnianą Y
wpływa na zmienną objaśnianą Y
parametr
parametr
β
β
j
j
istotnie różni się od zera
istotnie różni się od zera
zmienna objaśniająca X
zmienna objaśniająca X
j
j
istotnie
istotnie
wpływa na zmienną objaśnianą Y
wpływa na zmienną objaśnianą Y
54
54
β
β
1
1
≠
≠
0
0
β
β
1
1
=
=
0
0
55
55
1
1
1
b
b
S
b
t
n
i
i
b
X
X
S
S
1
2
)
(
1
Średni błąd
resztowy
parametru b
1
56
56
b
0
b
1
S
b1
t
b1
57
57
-3,76 ???
58
58
Wartość
Wartość
p
p
Wartość
Wartość
p
p
jest krytycznym poziomem
jest krytycznym poziomem
istotności dla testu
istotności dla testu
t-Studenta
t-Studenta
Wartość
Wartość
p
p
jest poziomem
jest poziomem
prawdopodobieństwa przy którym nie
prawdopodobieństwa przy którym nie
ma podstaw do odrzucenia hipotezy
ma podstaw do odrzucenia hipotezy
zerowej H
zerowej H
0
0
Przyjmując, że poziom istotności
Przyjmując, że poziom istotności
ustala się zwykle jako 5% (0,05) ,
ustala się zwykle jako 5% (0,05) ,
hipoteza zerową jest odrzucona, gdy
hipoteza zerową jest odrzucona, gdy
wartość p
wartość p
≤ 0,05
≤ 0,05
59
59
0,007 ≤
0,007 ≤
0,05
0,05
p ≤
p ≤
0,05
0,05
Hipotezę H
o
odrzucamy
60
60
Wartość p jest mniejsza
Wartość p jest mniejsza
od 0,05 , wobec tego
od 0,05 , wobec tego
parametr b
parametr b
1
1
jest istotny
jest istotny
na poziomie istotności
na poziomie istotności
5%
5%
p ≤
p ≤
0,05
0,05
61
61
2.2. Test F
2.2. Test F
Badanie istotności parametrów strukturalnych
Badanie istotności parametrów strukturalnych
testem F polega na badaniu istotności wszystkich
testem F polega na badaniu istotności wszystkich
parametrów strukturalnych łącznie
parametrów strukturalnych łącznie
H
H
0
0
:
:
β
β
1
1
=
=
β
β
2
2
= … =
= … =
β
β
k
k
= 0
= 0
parametr
parametr
β
β
1
1
nieistotnie różni się od
nieistotnie różni się od
β
β
2,
2,
β
β
k,
k,
zera
zera
zmienna objaśniająca X nieistotnie wpływa na
zmienna objaśniająca X nieistotnie wpływa na
zmienną objaśnianą Y
zmienną objaśnianą Y
H
H
A
A
:
:
β
β
j
j
≠ 0
≠ 0
parametr
parametr
β
β
j
j
istotnie różni się od zera
istotnie różni się od zera
zmienna objaśniająca X istotnie wpływa na
zmienna objaśniająca X istotnie wpływa na
zmienną objaśnianą Y
zmienną objaśnianą Y
62
62
MSE
MSR
F
Wartość średnia
kwadratów
regresji
Wartość średnia
kwadratów reszt
63
63
MSR
MSR
Test F
Test F
MSE
MSE
F
F
64
64
47,9 ??
?
65
65
8,23*10
8,23*10
-5
-5
≤ 0,05
≤ 0,05
Istotność F ≤
Istotność F ≤
0,05
0,05
Hipotezę H
o
odrzucamy
66
66
Istotność F
Istotność F
jest
jest
mniejsza od 0,05 ,
mniejsza od 0,05 ,
wobec tego parametr
wobec tego parametr
b1 jest istotny na
b1 jest istotny na
poziomie istotności 5%
poziomie istotności 5%
Istotność F ≤
Istotność F ≤
0,05
0,05
Hipotezę H
o
odrzucamy
67
67
Interpretacja oznaczeń
Interpretacja oznaczeń
wyników analizy regresji w
wyników analizy regresji w
Excel
Excel
Wielokrotność R
Wielokrotność R
–
–
współczynnik korelacji
współczynnik korelacji
R kwadrat –
R kwadrat –
współczynnik
współczynnik
determinacji r
determinacji r
2
2
Błąd standardowy
Błąd standardowy
–
–
standardowy błąd
standardowy błąd
reszt S
reszt S
e
e
Obserwacje
Obserwacje
– liczba
– liczba
obserwacji w badaniu
obserwacji w badaniu
2
r
r
SST
SSE
SST
SSR
r
1
2
1
1
2
k
n
e
MSE
S
n
i
i
n
68
68
Interpretacja oznaczeń
Interpretacja oznaczeń
wyników analizy regresji w
wyników analizy regresji w
Excel
Excel
df
df
–
–
degree of freedom
degree of freedom
(
(
liczba stopni swobody)
liczba stopni swobody)
SS –
SS –
Sum of Squares
Sum of Squares
(suma kwadratów reszt)
(suma kwadratów reszt)
(
(
suma kwadratów regresji
suma kwadratów regresji
)
)
MS
MS
–
–
Mean of Squares
Mean of Squares
(
(
wartość średnia
wartość średnia
kwadratów reszt)
kwadratów reszt)
(
(
wartość średnia
wartość średnia
kwadratów regresji)
kwadratów regresji)
n
i
i
Y
Y
SSE
1
2
)
ˆ
(
n
i
i
Y
Y
SSR
1
2
)
ˆ
(
1
k
n
SSE
MSE
1
SSR
MSR
69
69
Interpretacja oznaczeń
Interpretacja oznaczeń
wyników analizy regresji w
wyników analizy regresji w
Excel
Excel
F
F
– wartość statystyki F
– wartość statystyki F
służącej do weryfikacji
służącej do weryfikacji
hipotezy o łącznej istotności
hipotezy o łącznej istotności
zmiennych objaśniających
zmiennych objaśniających
Współczynniki –
Współczynniki –
ocena
ocena
parametrów strukturalnych
parametrów strukturalnych
Błędy standardowe
Błędy standardowe
– średni
– średni
błędy ocen parametrów
błędy ocen parametrów
strukturalnych
strukturalnych
MSE
MSR
F
b
0
b
1
b
2
b
k
S
b0
S
b1
S
b2
S
bk
70
70
Interpretacja oznaczeń
Interpretacja oznaczeń
wyników analizy regresji w
wyników analizy regresji w
Excel
Excel
t Stat
t Stat
– wartość testu t-
– wartość testu t-
Studenta, służące do badania
Studenta, służące do badania
istotności parametrów
istotności parametrów
strukturalnych
strukturalnych
Wartość-p –
Wartość-p –
wartość
wartość
„prawdopodobieństwa
„prawdopodobieństwa
empirycznego”
empirycznego”
(prawdopodobieństwo
(prawdopodobieństwo
zdarzenia, że statystyka t
zdarzenia, że statystyka t
b
b
znajdzie się w przedziale
znajdzie się w przedziale
ufności
ufności
prawdziwość hipotezy zerowej
prawdziwość hipotezy zerowej
H
H
0
0
)
)
j
j
b
j
b
S
b
t
71
71
3. Badanie własności
3. Badanie własności
odchyleń losowych
odchyleń losowych
72
72
Badanie własności składników losowych ma
Badanie własności składników losowych ma
na celu weryfikację założeń metody
na celu weryfikację założeń metody
najmniejszych kwadratów.
najmniejszych kwadratów.
Weryfikacja jest prowadzona na podstawie
Weryfikacja jest prowadzona na podstawie
reszt będących oszacowanymi składników
reszt będących oszacowanymi składników
losowych w modelu ekonometrycznym.
losowych w modelu ekonometrycznym.
Jeśli okaże się, że jakiś warunek nie jest
Jeśli okaże się, że jakiś warunek nie jest
spełniony, to estymatory tracą niektóre
spełniony, to estymatory tracą niektóre
własności. Wówczas należy ponownie
własności. Wówczas należy ponownie
oszacować parametry, stosując inną
oszacować parametry, stosując inną
metodę estymacji, albo zmienić model.
metodę estymacji, albo zmienić model.
73
73
Studentyzacja
reszt
Czy są
obserwacje
odstające? |
stde|>3
T
Jeśli <10% to
eliminacja
Jeśli
>10%
Dan
e
N
N
T
Test
normalności
Czy są
homoskedastyc
zne?
N
T
Box-
Cox
Czy są
niezależne?
T
N
STOP
1
n>=15
*k
74
74
Studentyzacja
reszt
Czy są
obserwacje
odstające? |
stde|>3
T
Jeśli <10% to
eliminacja
Jeśli
>10%
Dan
e
N
N
T
Test
normalności
Czy są
homoskedastyc
zne?
N
T
Box-
Cox
Czy są
niezależne?
T
N
STOP
2
n>=15
*k
75
75
Studentyzacja
reszt
Czy są
obserwacje
odstające? |
stde|>3
T
Jeśli <10% to
eliminacja
Jeśli
>10%
Dan
e
N
N
T
Test
normalności
Czy są
homoskedastyc
zne?
N
T
Box-
Cox
Czy są
niezależne?
T
N
STOP
3
n>=15
*k
76
76
Studentyzacja
reszt
Czy są
obserwacje
odstające? |
stde|>3
T
Jeśli <10% to
eliminacja
Jeśli
>10%
Dan
e
N
N
T
Test
normalności
Czy są
homoskedastyc
zne?
N
T
Box-
Cox
Czy są
niezależne?
T
N
STOP
4
n>=15
*k
77
77
78
78
Studentezow
ane reszty
reszty
e
1. Studentyzacja
reszt
79
79
Studentezow
ane reszty
e = Y –
Ŷ
S
1. Studentyzacja
reszt
80
80
Czy są
obserwacji
odstające??
?
< -3
> 3
1. Studentyzacja
reszt
81
81
jeśli
<
10%
wyeliminow
ać
i jeszcze
raz obliczyć
1. Studentyzacja
reszt
82
82
jeśli
<
10%
wyeliminow
ać
i jeszcze
raz obliczyć
1. Studentyzacja
reszt
83
83
84
84
85
85
86
86
Jeśli ≤
30
obserwacji,
sprawdzamy,
czy rozkład
reszt jest
rozkładem
normalnym
2. Badanie
normalności
87
87
2. Badanie
normalności
88
88
89
89
[-1;1]
[-1;1]
90
90
91
91
92
92
3. Badanie
homoskedastycznoś
ci
93
93
94
94
95
95
Homoskedastyczność
Homoskedastyczność
stałość
stałość
wariancji
wariancji
reszt
reszt
X
96
96
Heteroskedastyczność
Heteroskedastyczność
X
X
97
97
98
98
99
99
100
100
Wydatki na
reklamę (X)
Ilość
sprzedaż
(Y)
ln (X)
SQR
(X)
X*X
1/X
3,9
1,1
1,36
1,97
15,21
0,26
4,9
1,7
1,59
2,21
24,01
0,20
7,6
2,6
2,03
2,76
57,76
0,13
6,8
2,4
1,92
2,61
46,24
0,15
5,9
2,3
1,77
2,43
34,81
0,17
9,1
2,9
2,21
3,02
82,81
0,11
3,4
0,4
1,22
1,84
11,56
0,29
11,6
3,2
2,45
3,41
134,56
0,09
14,1
3,3
2,65
3,75
198,81
0,07
14,9
3,1
2,70
3,86
222,01
0,07
10,5
3,2
2,35
3,24
110,25
0,10
9,9
3
2,29
3,15
98,01
0,10
17,1
3,7
2,84
4,14
292,41
0,06
12,4
3,3
2,52
3,52
153,76
0,08
101
101
Przekształcenie potęgowe Z
Przekształcenie potęgowe Z
t
t
=X
=X
t
t
1/2
1/2
102
102
Przekształcenie potęgowe
Przekształcenie potęgowe
Z
Z
t
t
=X
=X
t
t
2
2
103
103
Przekształcenie logarytmiczne Z
Przekształcenie logarytmiczne Z
t
t
= ln(X
= ln(X
t
t
)
)
104
104
Przekształcenie Z
Przekształcenie Z
t
t
= 1 / X
= 1 / X
t
t
=
=
X
X
t
t
-1
-1
105
105
106
106
Przekształcenie potęgowe Z
Przekształcenie potęgowe Z
t
t
= Y
= Y
t
t
p
p
Jeśli p
Jeśli p
<
<
0, to przekształcona zmienna
0, to przekształcona zmienna
Z
Z
t
t
= Y
= Y
t
t
p
p
ma odwrotny trend do wyjściowej
ma odwrotny trend do wyjściowej
Jeśli 0
Jeśli 0
<
<
p
p
<
<
1, to przekształcona zmienna
1, to przekształcona zmienna
Z
Z
t
t
=
=
Y
Y
t
t
p
p
ma mniejsze zmiany amplitud niż wyjściowa
ma mniejsze zmiany amplitud niż wyjściowa
Jeśli
Jeśli
p
p
>
>
1, to przekształcona zmienna
1, to przekształcona zmienna
Z
Z
t
t
= Y
= Y
t
t
p
p
będzie miała większe zmiany amplitud niż
będzie miała większe zmiany amplitud niż
wyjściowa
wyjściowa
Przekształcenie logarytmiczne Z
Przekształcenie logarytmiczne Z
t
t
= ln(Y
= ln(Y
t
t
)
)
Cel przekształcenia logarytmicznego jest
Cel przekształcenia logarytmicznego jest
podobny jak przekształcenia potęgowego Z
podobny jak przekształcenia potęgowego Z
t
t
=
=
Y
Y
t
t
p
p
dla 0
dla 0
<
<
p
p
<
<
1
1
Chodzi o spowolnienie zmian wartości i amplitud
Chodzi o spowolnienie zmian wartości i amplitud
wyjściowych danych
wyjściowych danych
107
107
4. Niezależność
reszt
108
108
Badanie losowości rozkładu składnika
Badanie losowości rozkładu składnika
losowego ma na celu zweryfikowanie
losowego ma na celu zweryfikowanie
hipotezy o trafności doboru postaci
hipotezy o trafności doboru postaci
analitycznej modelu.
analitycznej modelu.
Czy model liniowy poprawnie opisuje
Czy model liniowy poprawnie opisuje
zależność pomiędzy zmienną
zależność pomiędzy zmienną
objaśnianą a zmienną objaśniającej.
objaśnianą a zmienną objaśniającej.
109
109
Wielkość sprzedaż kompanii
Wielkość sprzedaż kompanii
Reynolds Metals
Reynolds Metals
110
110
Test Durbina - Watsona
Test Durbina - Watsona
n
i
i
n
i
i
i
e
e
e
DW
1
2
2
2
1
1
1
1
ˆ
ˆ
t
t
i
t
t
i
Y
Y
e
Y
Y
e
111
111
H
H
0
0
:
:
ρ
ρ
= 0
= 0
H
H
A
A
:
:
ρ
ρ
> 0
> 0
Jeśli DW > U , przyjmujemy
Jeśli DW > U , przyjmujemy
H
H
0
0
:
:
ρ
ρ
= 0
= 0
Jeśli DW < L , przyjmujemy H
Jeśli DW < L , przyjmujemy H
A
A
:
:
ρ
ρ
> 0
> 0
Jeśli L ≤ DW ≤ U , brak decyzji
Jeśli L ≤ DW ≤ U , brak decyzji
112
112
Rok
Sprzeda
ży
Zysk
Reszt
y
Y
X
Ŷ
E
t
E
t
-E
t-1
(E
t
-E
t-
1
)^2
E
t
^2
197
6
295
273,
4
371,
4
-76,4
5831,0
197
7
400
291,
3
447,
5
-47,5
28,8
831,3
2258,9
197
8
390
306,
9
513,
9
-
12
3,9 -76,4
5834,0
15353,4
197
9
425
317,
1
557,
3
-
13
2,3
-8,4
70,6
17506,3
198
0
547
336,
1
638,
2
-91,2
41,2
1693,5
8310,1
…
…
…
…
…
…
…
…
199
4
3702
903,
1
3050
,8 651,2
69,8
4875,4
424010,
2
199
5
3316
983,
6
3393
,4
-77,4
-
72
8,5
530771,
9
5987,7
199
6
2702
1076
,7
3789
,5
-
10
87,
5
-
10
10,
2
102041
5,2
1182735
,2
Suma
192603
2
2210646
87
,
0
2210646
1926032
1
2
2
2
1
n
i
i
n
i
i
i
e
e
e
DW
113
113
DW = 0,87
DW = 0,87
DW < L
DW < L
0,87 < 1,22
0,87 < 1,22
α
α
= 0,05
= 0,05
k = 1
k = 1
n = 21
n = 21
L = 1,22
L = 1,22
U = 1,42
U = 1,42
114
114