Wnioskowanie statystyczne opiera się na zbieraniu i przetwarzaniu informacji. Zbieranie informacji jest niczym innym, jak przygotowaniem wyników badań wszelkiego rodzaju do określonej analizy. Wyniki prób losowych, czy też obserwacje z szeregów czasowych stanowią materiał, dzięki któremu analityk jest w stanie wnioskować o prawidłowościach zachodzących w czasie, czy przestrzeni określonej populacji generalnej. Brzmi to dość skomplikowanie lecz w rzeczywistości definicje estymatorów optymalnych dają się łatwo wyjaśnić.

Kryteria optymalności estymatorów, a następnie ich omówienie pozwolą zbliżyć się do senda sprawy. Estymatory można więc sklasyfikować jako:

• estymatory zgodne,

• estymatory nieobciążone,

• estymatory najefektywniejsze,

• estymatory asymptotycznie najefektywniejsze.

Chcąc oszacować nieznany parametr Q w populacji generalnej, musimy dysponować próbką pobraną z tej populacji i odnajdujemy wartość tego parametru w pobranej próbie. Wartość parametru zależy więc od kształtowania się wartości w próbie. Pozostaje więc niczym innym, jak funkcją z tej próby. Zakłada się, że liczebność próby została ustalona i wynosi n. Numerując elementy próbki liczbami naturalnymi od 1 do n. Gdyby losowanie zostało powtórzone wielokrotnie element próbki oznaczony liczbą 1 przybierałby różne wartości z różnym prawdopodobieństwem, byłby więc zmienną losową. Podobnie przedstawia się sprawa ze zbiorem wartości, jakie może przybierać drugi, trzeci i w końcu n - ty element pobranej próbki. Jeżeli więc próbka przybiera wartości x₁, x₂, x₃,..., x_n, to wartości te można traktować jako realizacje n - wymiarowej zmiennej losowej, która jest uogólnieniem zmiennej dwuwymiarowej. Parametr z próbki, który nazywamy estymatorem parametru z populacji generalnej, jest funkcją n - wymiarowej zmiennej losowej, a tym samym jest również zmienną losową mającą własny rozkład. Na oznaczenie estymatora parametru Q stosować będziemy symbol Q`.

Z powyższego wynika następująco:
Estymatorem parametru Q nazywamy funkcję Q`<sub>n</sub>=U(X<sub>1</sub>, X<sub>2</sub> X<sub>3</sub>,..., X<sub>n</sub>), która ma tę własność, że prawdopodobieństw zdarzenia Q`_n zbliża się do Q i jest tym bliższe jedności, im większa jest liczebność próbki. Wynika z tego, że estymatorem parametru Q w populacji może być każda taka funkcja Q`_n wartość wylosowanych do próbki, że dla arbitralnie obranej, lecz nie koniecznie dowolnej małej dodatniej liczby c zachodzi relacja:




Jest rzeczą oczywistą, że estymator tym lepiej spełnia swą rolę, im dla mniejszych wartości c może on czynić zadość powyższej równości.

Biorąc pod uwagę wyżej wymienione grupy estymatorów

Estymatorem zgodnym nazywamy taki estymator Q`_n=U(X₁, X₂ X₃,..., X_n) dla którego




gdzie epsilon jest dowolnie małą liczbą dodatnią. Co oznacza, że takim estymatorem nazywa się estymator, który wraz ze wzrostem liczebności próbki jest stochastycznie zbieżny.

Estymatorem nieobciążonym nazywa się taki estymator, którego wartość przeciętna równa się parametrowi estymowanemu.

Estymatorem najefektywniejszym nazywa się taki estymator nieobciążony, który ma najmniejszą wariancję. Wybór najefektywniejszego estymatora umożliwia następująca nierówność, zwana nierównością Rao - Cramera:


W powyższym wzorze

- funkcja gęstości w populacji generalnej,

- liczebność próbki.
Oznaczymy estymator najefektywniejszy parametru Q symbolem Q`₀. Jeśli estymator ten istnieje oraz jeśli znamy jego wariancję


to wariancję tę można użyć jako wielkość porównawcza przy badaniu efektywności innych estymatorów parametru Q. Przypuśćmy, że Q`_n jest również estymatorem Q. Chcąc zmierzyć efektywność tego parametru, możemy to uczynić posługując się miarą efektywności estymatora


Z określenia estymatora najefektywniejszego wynika, że:


Jest zrozumiałe, że najbardziej przydatnym do celów praktycznych będzie estymator najefektywniejszy. Niestety estymatory te nie zawsze istnieją.

Estymatory asymptotycznie najefektywniejsze. Estymatorem takim Q1_n, który spełnia relację:


Granica do której dąży wartość wyrażenia, gdy rośnie n rośnie do nieskończoności nazywa się efektywnością asymptotyczną estymatora, wobec czego estymatorem najefektywniejszym asymptotycznie nazywa się taki estymator, którego asymptotyczna efektywność równa się jedności.

---