Методы нахождения точечных оценок

    Наиболее распространенными методами получения точечных оценок неизвестных параметров распределений, удовлетворяющих требованиям
1) – 3) (хотя бы частично), являются метод моментов и метод максимального правдоподобия.

Метод моментов

Метод моментов, предложенный К. Пирсоном, является исторически первым общим методом точечного оценивания неизвестных параметров распределений. Суть его состоит в следующем.

Пусть  - выборка из генеральной совокупности, имеющей функцию распределения , зависящую от векторного параметра  (задана параметрическая модель наблюдений).

Предположим, что у наблюдаемой случайной величины  существуют первые  моментов . Они являются функциями от неизвестного параметра : .

Рассмотрим выборочные начальные моменты , рассчитанные по данной выборке  (это числа!).

Метод моментов состоит в приравнивании теоретических моментов соответствующим выборочным моментам. При этом получается система  уравнений

с  неизвестными .

    Если данная система уравнений имеет единственное решение, то оно называется оценкой параметра , полученной по методу моментов и обозначается .

    Для нахождения оценки  может быть использована также система уравнений, основанных на приравнивании центральных теоретических соответствующим центральным выборочным моментам:

или смешанная система уравнений, часть из которых основана на приравнивании начальных теоретических и выборочных моментов, а часть – на приравнивании теоретических и выборочных центральных моментов. Использование именно первых r моментов также не является обязательным. Получаемые во всех этих случаях оценки, вообще говоря, отличаются друг от друга. Но при больших объемах выборки  отличия этих оценок незначительны, и все они, по-прежнему, называются оценками, полученными по методу моментов.

       В случае двумерного неизвестного параметра  его оценка по методу моментов  обычно определяется как решение системы уравнений: .

Оценки, полученные по методу моментов являются:

- состоятельными (при весьма общих предположениях);

- несмещенными не всегда;

- вообще говоря, неэффективными.

На практике оценки, полученные по методу моментов, часто используются как первое приближение, на основе которого находятся более «хорошие» оценки.

Достоинство метода моментов заключается в том, что системы уравнений для нахождения оценок решаются довольно просто. Однако имеет место произвол в выборе уравнений для нахождения оценок и метод вообще неприменим, когда моментов необходимого порядка не существует (например, в случае закона распределения Коши).

Пример 1. Наблюдаемая случайная величина  имеет показательное (экспоненциальное) распределение с неизвестным параметром , то есть имеет плотность вероятностей вида: . Требуется по выборке  найти оценку параметра  по методу моментов.

 

Решение.

Для показательного закона распределения   известно, что

, , .

На основании этого можно получить три различные оценки параметра  по методу моментов.

а) Используя уравнение , имеем . Следовательно,

.

б) Используя уравнение , имеем . Следовательно,

.

в) Используя уравнение , имеем . Следовательно,

.

      При больших  эти три оценки параметра  отличаются друг от друга незначительно.

Пример 2. Наблюдаемая случайная величина  имеет закон распределения Пуассона  с неизвестным параметром :

.

Требуется по выборке  найти оценку параметра  по методу моментов.

Решение.

Известно, что .

На основании этого можно получить две оценки параметра  по методу моментов:

, .

При больших  эти оценки отличаются незначительно. Приближенное равенство  является характерной особенностью закона распределения Пуассона.