WYKŁAD 1 23.09.2002

Ekonometria:

• Zastosowanie wszelkich metod matematycznych w ekonomii

• Zastosowanie statystyki matematycznej i rachunku prawdopodobieństwa do badania problemów ekonomicznych ( znaczenie węższe )

METODA NAJMNIEJSZYCH KWADRATÓW

Hipoteza

Y = β₁X₁ + β₂X₂ + ... + β_kX_k + ε

wielkość objaśniana wielkości objaśniające błąd\reszta

( zmienna )

Dane statystyczne

y₁ x₁₁ x₁₂ … x_1K K - liczba zmiennych

y₂ x₂₁ x₂₂ … x_2K objaśniających ( nr.

y = ... x = ... ... … … zmiennej )

y_r x_T1 x_T2 … x_TK T - liczba danych ( nr

danej )

Równanie

ŷ = b₁x_t1 + b₂x_t2 + ... + b_kx_tk ( t = 1,2,…,T )

• jeżeli mamy wolny β to w całej kolumnie w macierzy mamy same jedynki

• należy oszacować β na podstawie X i Y

• oceniamy oszacowane równanie

• b₁, b₂, b_k - szacowania parametrów

Szacowanie parametrów

Przykład 1

koszty ( mln zł )	-5,25	7,5	1	-2	3,25	1,5	6
temperatura ( ºC )	-4	3	1	-2	0	-1	3
produkcja ( tyś. ton )	1	2	1	0	1	2	3

1. Zbudować liniową funkcję w której koszty zależą od wielkości produkcji i temperatury przechowywania surowców

2. MNK oszacować parametry funkcji kosztów

3. Ocenić dobroć dopasowania funkcji do danych rzeczywistych

Y = β₁X₁ + β₂X₂ + β₃X₃ + ε ( x₃ = 1 )

koszty

produkcji temperatura produkcja

-5,25 -4 1 1

7,5 3 2 1

1 1 1 1

Y = -2 X = -2 0 1

3,25 0 1 1

1,5 -1 2 1

6 ( 7,1 ) 3 3 1 ( 7,3 )

wartości empiryczne

ŷ_t = b₁x_t1 + b₂x_t2 + b₃x_t3

wartości

teoretyczne liczby

Wartości teoretyczne mają być możliwie bliskie wartościom empirycznym

y

ŷ reszta \ błąd

ŷ = β₁x_t1 + β₂x_t2 ( x_t2 = 1 )

X₃

_T

MNK = ∑ ( y_t - ŷ_t )² → min

_T ^t=1

S ( b₁, b₂, b₃ ) = ∑ ( y_t - b₁x_t1 - b₂x_t2 - b₃x_t3 )² → min

^t=1

oceny parametrów

b₁

b = b₂ , ŷ = Xb, S (b) = ( y - Xb)^T ( y - Xb ) → min

...

b_k

wektor ocen wektor reszty

parametrów ( kolumna)

x₁ 2

2x₁ + 3x₂ + 4x₃ = 2 3 4 x₂ = x₁ x₂ x₃ 3

x₃ 4

forma liniowa

Rachunek różniczkowy w zapisie macierzowym → ksero

2

∂ L ₌ 3

∂ x 4

wektor pochodnych cząstkowych - gradient

( niech będzie kolumnowy )

Gradient - kolumna współczynników stojących przy zmiennych

forma kwadratowa 1 2 x₁ = x₁₂ + 5x₁x₂ + 4x₂₂

wektora x x₁ x₂ 3 4 x₂

macierz formy

kwadratowej

∂ K (x) ₌ 2x₁ + 5x_{2 =} 2 5 x_{1 =} 1 2 ₊ 1 3 x₁

∂ x 5x₁ + 8x₂ 5 8 x₂ 3 4 2 4 x₂

gradient

y^Ty - y^TXb - ( Xb )^Ty + ( Xb )^TXb → min

S (b) = y^Ty - y^TXb - b^TX^Ty + b^TX^TXb → min

gradient ∂ S(b) _{= - ( y}^T_{X )}^T _{- X}^T_{y + [ ( X}^T_{X ) + ( X}^T_{X )}^T _{] b}

∂ b

Warunek konieczny istnienia ekstremum :

∂ S(b) _{= ( 0 )} tłuste zero

∂ b ( wektor zero )

- X^Ty - X^Ty + [ X^TX + X^TX ] b = 0

macierz symetryczna

bo równa się swojej

- 2 X^Ty + 2 ( X^TX ) b = 0 transpozycji

X^TXb = X^Ty

Gdyby X^TX było macierzą nieosobliwą to mnożymy przez jej macierz

( X^TX )^-1 ( X^TX ) b = X^Ty ( X^TX )^-1

b = ( X^TX )^-1 X^Ty

Wektor b wyznaczony z tego wzoru minimalizuje kwadraty odchyleń!

WYKŁAD 2 30.09.2002

Oszacowanie funkcji z przykładu 1

Dane

I II III

-5,25 -4 1 1

7,8 3 2 1

1 1 1 1

Y = -2 X = -2 0 1

3,25 0 1 1

1,5 -1 2 1

6 3 3 1

Obliczenia

suma kwadratów iloczyn skalarny dwóch

liczb w kolumnie I wektorów I i II

(musi być dodatnia) 40 10 0

X^TX = 10 20 10

0 10 7

suma kwadratów

suma iloczynów kolumny III

kolumn I i II

4 -7 10

(XTX)-1 = 1/90 -7 28 -40

10 -40 70

Obydwie macierze są symetryczne.

65 1,5

X^Ty = 35 b = 0,5

12 1

ŷ = 1,5X₁ + 0,5X₂ + 1

błędy przybliżenia, odchylenie

oceny (szacunki) parametrów

-5,25 -4,5 -0,75

7,8 6,5 1

1 3 -2

y = -2 ŷ = -2 e = 0

3,25 1,5 1,75

1,5 0,5 1

6 7 -1

S (b) = 10,625

^min

Suma kwadratów odchyleń e jest minimalna dla danych wartości wektora b. Dla każdych innych oszacowań b, suma ta nie byłaby minimalna.

Wektor pochodnych cząstkowych, ∂ S (b)

pochodnych cząstkowych jest tyle ile = -2X^Ty + 2 (X^TX) b

składowych ma wektor b. ∂ b

Hesjan ∂ S² (b)

macierz drugich pochodnych = 2 (X^TX)

∂ b ∂ b

Macierz A jest

• dodatnio określona, gdy z^TA z > 0, z ≠ 0

• ujemnie określona, gdy z^TA z < 0, z ≠ 0

• nieujemnie określona, gdy z^TA z ≥ 0, z ≠ 0

(ujemnie półokreślona)

• niedodatnio określona, gdy z^TA z ≤ 0, z ≠ 0

(ujemnie półokreślona)

Gdy A^T = A to A jest macierzą symetryczną.

Sprawdzimy:

z^T 2 X^TX z > 0

z^T X^TX z > 0

podstawienie: z^TX^T = ( Xz )^T = (w)^T

w^Tw > 0 (wiersz x kolumna to liczba)

w^Tw = ∑ w_t² (suma kwadratów elementów wektora w)

O ile chociaż jedno w_t jest różne od zera to suma jest dodatnia. Natomiast gdy w_t = 0, to suma również wynosi 0.

x₁ x₂ x_k

z₁ + z₂ + ... + z_k = 0 liniowa kombinacja kolumn macierzy A, (Xz=0)

Jeżeli nie istnieje taki z ≠ 0, żeby to równanie było spełnione to kolumny X są liniowo niezależne. Jeżeli kolumny są liniowo niezależne to macierz jest dodatnio określona, a oceny parametrów b da się wyznaczyć jednoznacznie. Jeżeli kolumny są liniowo zależne, to macierz jest osobliwa.

Rząd macierzy X → k , jeżeli kolumny są liniowo niezależne.

rz (X_(T,k)) = K ≤ T rząd tej macierzy musi być równy liczbie kolumn aby

< T X^TX była dodatnio określona

liczba kolumn (rząd macierzy) liczba danych nie może być mniejsza od liczby kolumn (zmiennych)

ŷ = Xb → wektor wartości teoretycznych

X^TXb = X^Ty wektory prostopadłe

X^Tŷ = X^Ty

X^T ( y - ŷ ) = 0 (-4,2) 2 (1,2)

reszty

X^Te = 0

iloczyn skalarny wektorów równa się 0 -4 1

Własności hiperpłaszczyzny dopasowanej MNK do wyników obserwacji (zachodzą zawsze, dla każdego równania modelu):

• Wektor reszt jest ortogonalny do kolumn macierzy X

• ŷ^Te = b^T X^Te = 0 (chude zero)

0

Model z wyrazem wolnym. Jeżeli istnieje wyraz wolny ( mamy kolumny z samymi jedynkami) to:

• suma reszt jest równa zero

1 1 ... 1 e = 0

• suma wartości teoretycznych jest równa sumie wartości empirycznych

1 1 ... 1 ŷ = 1 1 ... 1 y

w przykładzie: y^Ty = 137,352 b^TX^Ty = 127,0 1/T ( ¶^Ty )² = 20,971

¶^Ty - wektor składowych równych średniej

DEKOMPOZYCJA WARIANCJI

OSK = ∑ ( y_t - ÿ )² = ( y - [ 1/T ¶^Ty ] )^T ( y - [ 1/T ¶^Ty ] ) = y^Ty - 1/T ( ¶^Ty)² - 1/T (¶^Ty)²

+ ( 1/T ¶^Ty² ) T

ogólna suma OSK = ∑ ( y_t - ÿ )² = y^Ty - 1/T ( ¶^Ty)²

kwadratów

suma kwadratów SKO = ∑ ( y_t - ŷ_t )² = y^Ty - b^TX^Ty minimalna wartość sumy kwadratów

odchyleń odchyleń (minimalizujemy)

_{_}

regresyjna suma RSK = ∑ ( ŷ_t - ŷ )² = b^TX^Ty - 1/T ( ¶^Ty )² jeżeli równanie ma wyraz wolny

kwadratów

Jeżeli szacowane równanie ma wyraz wolny, to:

OSK = SKO + RSK

OSK - zakres zmienności zmiennej objaśnianej

SKO - suma kwadratów reszt

RSK - część zmienności zmiennej objaśnianej, którą dało się objaśnić

SKO RSK

1 = +

OSK OSK

współczynnik zbieżności φ² R² współczynnik determinacji

(rozbieżności) mówi o tym zakresie zmienności

mówi o tym zakresie zmienności zmiennej zmiennej objaśnianej, który został

objaśnianej, który nie został objaśniony objaśniony poprzez szacowane równanie

poprzez szacowane równanie

R współczynnik korelacji wielorakiej

mówi o skorelowaniu wszystkich

zmiennych objaśniających z jedną

zmienną objaśnianą

WYKŁAD 3 07.10.2002

Skąd biorą się dane statystyczne?

Y_t = β₁X_t1 + β₂X_t2 + ... + β_kX_tk + ε_t

błąd, zmienna losowa, losowe zakłócenie

1. Hipoteza deterministyczna

2. Hipoteza probabilistyczna

3. Hipoteza klasyczna (ekonometryczna)

Losowy składnik nakłada się na prawo czyli Y_t jest zmienną losową, jej wartości to realizacje zmiennej losowej. Wszystkie wartości tego równania mają inny charakter.

	znane	nieznane
losowe	Y	ε
nielosowe	X	β

składnik losowy ma odzwierciedlać

wszystkie błędy powstałe w próbie statystycznej, wszystkie błędy

łącznie odnajdują wyraz w tym

składniku losowym

ustalone w powtarzalnych próbach

(mogą być obarczone błędami) stała i szacowana

Chodzi o to aby jak najwięcej zakresu zmienności zmiennej objaśnianej objaśnić

szacowanym modelem.

Założenie 1 Hipoteza

Y_(T) = X_(T,K) β_(K) + ε_(T) wektor składników losowych

wektor macierz wartości

zm. objaśniających wektor parametrów β, kolumna o K elementach

Założenie 2

rz X_(T,K) = K

Założenie 3

E (ε_t) = 0 wartość oczekiwana losowych zakłóceń jest 0

E (ε) = 0 wartość oczekiwana wektora jest wektorem zer

D² (ε_t) = E [ ε_t - E (ε_t) ]² = σ²

składniki losowe mają tę samą wariancję, błędy

są jednakowo rozproszone

cov (ε_t,ε_s) = E {[ε_t - E (ε_t)] [ε_s - E (ε_s)]} gdyby t = s to mamy wariancję

^t≠s

miara współzmienności zmiennych losowych - średnia z iloczynu odchyleń od

średnich ( zakładamy że = 0, to

znaczy że błędy nie są

systematyczne, nie są powiązane ze

sobą)

ε_t ∼ N ( 0, σ ) przyjęcie rozkładu normalnego oznacza że często

popełniamy błędy małe, a rzadko duże.

Macierz wariancji i kowariancji

∑_z = E [( z - E (z)) ( z - E (z))^T] w wyniku otrzymamy macierz jednostkową stopnia T

macierz wektor wektor

(kolumna) (wiersz)

Własności

• symetryczna

• na przekątnej są wariancje

• wymiar TxT - kwadratowa

σ² I → macierz skalarna, ponieważ do jej utworzenia potrzebna jest tylko jedna

liczba

Założenie 4

∑_ε = E [( ε - E(ε)) (ε - E(ε))^T] = E (ε ε^T) = σ² I

Założenie 5

ε ∼ N ( 0, σ² I ) rozkład błędu ma T-wymiarowy rozkład normalny

Przy tych 5 założeniach będziemy prowadzić wnioskowanie.

MNK

β - parametr ( stały i nieznany ), b - ocena ( szacunek ) - realizacje estymatora

b = (X^TX)^-1 X^Ty

wektor ocen parametrów odpowiadających wektorowi y

З = ( X^TX )^-1 X^T Y Y_(T) = X_(T,K) β_(K) + ε_(T)

estymator parametru- zmienna losowa

na podstawie której szacujemy estymator,

na tymże estymatorze opiera się wnioskowanie

Interpretacje

• wariancja - średni kwadrat odchyleń od średnich

• odchylenie standardowe - średnie odchylenie od średnich

Obydwa parametry są miarą rozproszenia od średniej. Im większe rozproszenie (odchylenie) tym estymator mniej wiarygodny i odwrotnie.

Własności estymatorów uzyskanych MNK

З = (X^TX)^-1 X^TY = (X^TX)^-1 X^T (Xβ + ε) = (X^TX)^-1 X^TXβ + (X^TX)^-1 X^Tε =

= β + (X^TX)^-1 X^Tε

Estymator jest funkcją składników losowych, a uzyskany MNK jest estymatorem

liniowym.

E ( З ) = E ( β + (X^TX)^-1 X^Tε) = E (β) + E ((X^TX)^-1 X^Tε) = β + (X^TX)^-1 X^T E(ε) = β

stała wartość oczekiwana estymatora = szacowanemu parametrowi

stąd jest to estymator nieobciążony (bez błędu systematycznego)

9

EKONOMETRIA

---