Zagadnienia

Zagadnienia



Metoda Najmniejszych Kwadratów (MNK)



Współczynnik determinacji



Koincydencja



Kataliza



Współliniowość zmiennych

Jednorównaniowy model 

Jednorównaniowy model 

ekonometryczny

ekonometryczny



Y = 

0

+ 

1

X

1

 + 

2

X

2

 + ... + 

k

X

k

 + 



y

t

 = 

0

+ 

1

x

1t

 + 

2

x

2t

 + ... + 

k

x

kt

 + 

t

, t = 

1,...,n



y = X + 

Estymatory MNK

Estymatory MNK



wartości teoretyczne:



reszta:



układ równań normalnych:

X

T

Xa = X

T

y



estymatory MNK:

a = (X

T

X)

-1

X

T

y



...

,

, ,...,

y

a

a x

a x

a x t

n

t

t

t

k kt







 



0

1 1

2 2

12

y Xa



e

y

y t

n

t

t

t

 



 ,

, ,...,

12

e y y y Xa

 

 



Założenia MNK

Założenia MNK



zmienne objaśniające X

i

 są nielosowe i 

nieskorelowane ze składnikiem losowym,



rz(X) = k + 1 n,



E() = 0,



D

2

() = E(

T

) = 

2

I,

 



2 

< 





t

: N(0,

2

), t = 1,2,...,n,



informacje zawarte w próbie są jedynymi, na 
podstawie których estymuje się parametry 
strukturalne modelu.

Własności estymatorów MNK

Własności estymatorów MNK



Tw. Gaussa - Markowa:



Estymator a wektora parametrów modelu 

ekonometrycznego wyznaczony MNK jest 

estymatorem: liniowym, zgodnym, 

nieobciążonym i najefektywniejszym w klasie 

liniowych i nieobciążonych estymatorów.

Estymator MNK - przykład

Estymator MNK - przykład

Y - roczna pensja (tysiące $)
X

1

 - lata nauki po zakończeniu szkoły średniej

X

2

 - staż pracy w przedsiębiorstwie



Szacowany model:

Y = 

0

+ 

1

X

1

 + 

2

X

2

 + 



Oszacowanie modelu:



,

,

,

Y

X

X







2375 025

55

1

2

Y

X

1

X

2

30

4

10

20

3

8

36

6

11

24

4

9

40

8

12

Własność koincydencji

Własność koincydencji



Model jest koincydentny, jeśli dla każdej zmiennej 
objaśniającej modelu spełniony jest warunek:

sgn r

i

 = sgn a

i



Para korelacyjna:

para (R,R

0

)



Regularna para korelacyjna: para (R,R

0

), gdy 

współczynniki korelacji spełniają warunek:

0 < r

1 

 r

2

  ...  r

k

Zapis korelacyjny modelu 

Zapis korelacyjny modelu 

ekonometrycznego

ekonometrycznego



X, Y

- dane wystandaryzowane,



R = (1/n)*X

T

X,



R

0

 = (1/n)*X

T

Y,



zapis korelacyjny:

R

0

 = R + R



,



estymatory:

a = R

-1

R

0

,



współczynnik determinacji: R

2

 = R

0T

R

-1

R

0

.

Koincydencja - przykład

Koincydencja - przykład



współczynnik korelacji X

1

 i X

2

: r

12

 = 0,949



model nie jest koincydentny, gdyż

sgn a

1 

 sgn r

1

R

0

0 940
0 997









.
.

Miary jakości modelu

Miary jakości modelu



Współczynnik determinacji:



Skorygowany współczynnik determinacji



Niescentrowany współczynnik determinacji 
(model bez wyrazu wolnego)

R

ny

ny

R

T

T

T

T

T

T

2

2

2

2

1

1

01

 



 







e e

y y

y y a X y

y y

;

;









R

R

k

n

k

R R

R

2

2

2

2

2

1

1













;

R

R

N

T

T

N

2

2

1

01

 



e e

y y

;

;

Interpretacja R

Interpretacja R

2

2



Część zmienności zmiennej objaśnianej, która 

jest wyjaśniana przez model.



Warunki poprawnej interpretacji:

– zależność między zmienną objaśnianą, a zmiennymi 

objaśniającymi jest liniowa,

– parametry modelu oszacowane zostały MNK,

– model zawiera wyraz wolny.

Efekt katalizy

Efekt katalizy



Efekt katalizy - możliwość otrzymania wysokiej 
wartości współczynnika determinacji mimo, że 
charakter i siła powiązań zmiennych 
objaśniających i zmiennej objaśnianej nie 
uzasadniają takiego wyniku.



Efekt katalizy może mieć miejsce, gdy występuje 
zmienna - katalizator:

– dla regularnej pary korelacyjnej, zmienna X

i

 z pary (X

i

,X

j

) 

jest katalizatorem, jeżeli

r

ij

 < 0 lub r

ij

 > r

i

/r

j

Pomiar zjawiska katalizy

Pomiar zjawiska katalizy



Natężenie zjawiska katalizy:

= R

2

 - H,

gdzie H jest integralną pojemnością informacyjną 

zestawu zmiennych objaśniających.



Względne natężenie efektu katalizy:

W



 = / R

2 

x 100%

Współliniowość zmiennych

Współliniowość zmiennych



Współliniowość jest wadą próby statystycznej, 
polegającą na tym, że szeregi reprezentujące 
zmienne objaśniające są nadmiernie skorelowane.



Konsekwencje występowania współliniowości:

– niemożliwy staje się pomiar oddziaływania 

poszczególnych zmiennych objaśniających,

– oceny wariancji estymatorów MNK, związanych ze 

skorelowanymi zmiennymi, są bardzo duże,

– oszacowania parametrów są bardzo wrażliwe na dodanie 

lub usunięcie z próby niewielkiej liczby obserwacji.



Ale estymatory MNK są BLUE!!!

Dokładna współliniowość

Dokładna współliniowość



Dokładna współliniowość - podzbiór zmiennych 

objaśniających jest związany zależnością liniową.



rz(X) < k + 1 macierz X

T

X jest osobliwa i nie 

istnieją estymatory MNK!



W praktyce: przybliżona współliniowość.

Przybliżona współliniowość -

Przybliżona współliniowość -

co robić?

co robić?



nie robić nic,



zmienić zakres próby statystycznej,



rozszerzyć model o dodatkowe równania,



nałożyć dodatkowe warunki na parametry,



usunąć zmienną lub zmienne,



wykorzystać wyniki innych badań,



dokonać transformacji zmiennych,



zastosować metodę estymacji grzbietowej,



zastosować metodę głównych składowych.