Свойства выборочного среднего и выборочной дисперсии

Пусть наблюдаемая случайная величина  имеет математическое ожидание  и дисперсию .

I. Свойства выборочного среднего , как точечной оценки неизвестного математического ожидания.

    1. Выборочное среднее является несмещенной оценкой неизвестного математического ожидания .

.

2. Выборочное среднее является состоятельной оценкой неизвестного математического ожидания .

Рассмотрим два способа доказательства этого свойства.

а) Последовательность независимых одинаково распределенных случайных величин , имеющих конечные математическое ожидание  и дисперсию  подчиняется закону больших чисел, в соответствии с которым

.

    б) Поскольку выборочное среднее  является несмещенной оценкой неизвестного математического ожидания , то для доказательства состоятельности  достаточно показать, что . А это следует из свойства аддитивности дисперсии для независимых случайных величин имеем:

.

 

3. Если закон распределения наблюдаемой случайной величины  является нормальным с параметрами  (то есть с неизвестным математическим ожиданием  и известной дисперсией ), то выборочное среднее  является эффективной оценкой параметра .

Покажем, что выборочное среднее  обращает неравенство Рао-Крамера в равенство.

Для этого вычислим информацию Фишера о параметре , содержащуюся в одном наблюдении над случайной величиной :

.

    Плотность вероятностей наблюдаемой случайной величины  имеет вид:

,

а ее логарифм . Дифференцируя  по , получаем:

.

Подставляя вместо аргумента  случайную величину , для информации Фишера  получаем выражение:

.

    Следовательно,

.

    Свойство 3 остается справедливым и в общей нормальной модели , когда неизвестны и математическое ожидание, и дисперсия.

II. Свойства выборочной дисперсии , как точечной оценки неизвестной дисперсии.

1. Выборочная дисперсия  не является несмещенной оценкой неизвестной дисперсии . Она является асимптотически несмещенной оценкой .

Найдем математическое ожидание :

(поскольку  при   в силу независимости случайных величин )

.

    Таким образом, выборочная дисперсия  не является несмещенной оценкой дисперсии . Ее смещение . Поскольку , то выборочная дисперсия  является асимптотически несмещенной оценкой дисперсии .

    Несмещенную оценку дисперсии  можно получить, умножив  на коэффициент , компенсирующий ее смещение.

Несмещенная оценка дисперсии

называется исправленной выборочной дисперсией.

На практике исправленную выборочную дисперсию , как точечную оценку неизвестной дисперсии , используют чаще, чем просто выборочную дисперсию . Однако при больших  оценки  и  отличаются крайне незначительно.

2. Выборочная дисперсия  и исправленная выборочная дисперсия  являются состоятельными оценками неизвестной дисперсии .

Как отмечалось ранее

.

    В силу закона больших чисел , а . Поэтому

.

Поскольку  при больших , то состоятельной оценкой дисперсии  является и исправленная выборочная дисперсия .

 

    3. Если закон распределения наблюдаемой случайной величины  является нормальным с неизвестными параметрами , то исправленная выборочная дисперсия  является асимптотически эффективной оценкой неизвестной дисперсии , то есть

,

где  - эффективная оценка неизвестной дисперсии  (без доказательства).

Поскольку  при больших , то асимптотически эффективной оценкой дисперсии  является и выборочная дисперсия .