Procedura związana z analizą regresji 

 

 

1. Wybór zmiennych oraz postaci funkcji 

regresji 

2. Oszacowanie parametrów funkcji, 

wyznaczenie błędów 

5. Wykorzystanie modelu – ocena 

związków, prognozowanie 

4.a Model dobry 

3. Ocena modelu (istotność parametrów, 

dopasowanie, własności reszt, obserwacje 

odstające) 

4.b Model niedobry 

Uwagi do kolejnych etapów 
 

Ad 1. O ile jest to możliwe (zmiennych nie jest zbyt dużo) należy sprawdzić: 

•

 

charakter związku pomiędzy zmiennymi  

•

 

występowanie interakcji pomiędzy zmiennymi 

 
W przypadku, gdy nie ma „mocnej” teorii zjawiska, która narzuca postać 
funkcji,  wówczas  samemu  należy  zaproponować  możliwie  najlepsze 
rozwiązanie.  Właściwsze  podejście  polega  na  zaproponowaniu  modelu 
maksymalnie  rozbudowanego  by  następnie  upraszczać  go  zgodnie  z 
zadaną procedurą (korzystanie z kryteriów informacyjnych, lub z testu t – 
jeśli kryteria nie są dostępne) 

 
Ad 2…. 
 
Ad 3. Ocena zbudowanego modelu polega na sprawdzeniu czy: 

•

 

parametry są statystycznie istotne (test t) 

•

 

parametry mają właściwe interpretacje (w szczególności znaki) 

•

 

odchylenie standardowe reszt jest akceptowalnie małe 

•

 

reszty są normalne (wykres normalności, testy normalności dla reszt) 

•

 

reszty są homoskedastyczne (wykres reszt względem 
obserwowanych/przewidywanych – jeśli reszty zależą od wartości 
zmiennej zależnej, to nie są homoskedastyczne) 

•

 

występują obserwacje odstające i czy wpływają one na wartości 
oszacowanych parametrów (postać funkcji) – odległość Cooka (odległość 
pomiędzy wektorami parametrów równań regresji, z których jedno 
wykorzystują obserwację i drugie zaś nie), usunięta reszta – porównanie 
reszt z dwóch modeli, z których jeden wykorzystuje daną obserwację, 
drugi nie, odległość Mahalanobisa – odległość wektora zmiennych 
objaśniających od „centroidu” wyznaczonego dla wszystkich wektorów 
zmiennych objaśnianych.  

 
Ad 4a. huraa 
 
Ad 4b. Poprawiamy model tj. 

•

 

zmieniamy rodzaj związku pomiędzy zmiennymi 

•

 

usuwamy zmienne (dodajemy zmienne) 

•

 

wykluczamy obserwacje odstające 

 
 
Ad 5. hurrraaa 

Zadania. 
Zad 1.Otworzyć plik płace 

•

 

oszacować parametry modelu regresji, ocenić dobroć modelu,  

•

 

wykreślić wykres rozrzutu płaca/wiek biorąc pod uwagę płeć respondenta 

•

 

poprawić wykres 

 
Zad 2. Otworzyć plik saab 9-3 

•

 

oszacować model regresji ujmujący zależność pomiędzy wartością a 
pozostałymi zmiennymi: zinterpretować parametry, miary dopasowania 

•

 

wykorzystać metodą analizy krokowej, aby wskazać „optymalny” model 

•

 

poprawić model  

 
Zad 3. Otworzyć plik Poverty.sta (w folderze plików przykładowych programu) 

•

 

Zbudować regresję dla zmiennej procent biedy 

•

 

Ocenić model (w szczególności ze względu na wartości odstające)