Несмещенные, эффективные и состоятельные оценки

 

Для того чтобы статистические оценки давали «хорошие» приближения оцениваемых параметров, они должны удовлетворять определенным требованиям. Ниже указаны эти требования.

Пусть Θ* - статистическая оценка неизвестного параметра в теоретического распределения. Допустим, что по выборке объема п найдена оценка Θ₁*. Повторим опыт, т. е. извлечем из генеральной совокупности другую выборку того же объема и по ее данным найдем оценку Θ₁*. Повторяя опыт многократно, получим числа Θ₁*, Θ₁*,..., Θ_k*, которые, вообще говоря, различны между собой. Таким образом, оценку Θ* можно рассматривать как случайную величину, а числа Θ₁*, Θ₁*,..., Θ_k*-как ее возможные значения.

Представим себе, что оценка Θ* дает приближенное значение Θ с избытком; тогда каждое найденное по данным выборок число Θ_i* (i = 1, 2,.... k)больше истинного значения Θ. Ясно, что в этом случае и математическое ожидание (среднее значение) случайной величины Θ* больше, чем Θ, т. е. М (Θ*) > Θ. Очевидно, что если Θ* дает оценку с недостатком, то М (Θ*) < Θ.

Таким образом, использование статистической оценки, математическое ожидание которой не равно оцениваемому Параметру, привело бы к систематическим *⁾ (одного знака) ошибкам. По этой причине естественно потребовать, чтобы математическое ожидание оценки Θ* было равно оцениваемому параметру. Хотя соблюдение этого требования не устранит ошибок (одни значения Θ* больше, а другие меньше Θ), однако ошибки разных знаков будут встречаться одинаково часто. Иными словами, соблюдение требований М (Θ*) = Θ гарантирует от получения систематических ошибок.

Несмещенной называют статистическую оценку Θ*, математическое ожидание которой равно оцениваемому параметру Θ при любом объеме выборки, т. е.

М (Θ*) = Θ.

*⁾ В теории ошибок измерений систематическими ошибками называют неслучайные ошибки, искажающие результаты измерений в одну определенную сторону. Например, измерение длины растянутой рулеткой систематически дает заниженные результаты.

Смещенной называют оценку, математическое ожидание которой не равно оцениваемому параметру.

Однако было бы ошибочным считать, что несмещенная оценка всегда дает хорошее приближение оцениваемого параметра. Действительно, возможные значения Θ* могут быть сильно рассеяны вокруг своего среднего значения, т. е. дисперсия D (Θ*) может быть значительной. В этом случае найденная по данным одной выборки оценка, например Θ₁*, может оказаться весьма удаленной от среднего значения *, а значит, и от самого оцениваемого параметра Θ; приняв Θ₁* в качестве приближенного значения Θ, мы допустили бы большую ошибку. Если же потребовать, чтобы дисперсия Θ* была малой, то возможность допустить большую ошибку будет исключена. По этой причине к статистической оценке предъявляется требование эффективности.

Эффективной называют статистическую оценку, которая (при заданном объеме выборки n) имеет наименьшую возможную дисперсию.

При рассмотрении выборок большого объема (n велико!) к статистическим оценкам предъявляется требование состоятельности.

Состоятельной называют статистическую оценку, которая при n →∞ стремится по вероятности к оцениваемому параметру. Например, если дисперсия несмещенной оценки при n →∞ стремится к нулю, то такая оценка оказывается и состоятельной.

 

 

Генеральная средняя

 

Пусть изучается дискретная генеральная совокупность относительно количественного признака X.

Генеральной средней называют среднее арифметическое значений признака генеральной совокупности.

Если все значения x ₁, х ₂, …, x_N признака генеральной совокупности объема N различны, то

.

Если жезначения признака x ₁, х ₂, …, x_k имеютсоответственно частоты N ₁, N ₂,..., N_k,причем N ₁ +N ₂ +…+N_k=N,то

,

т. е. генеральная средняя есть средняя взвешенная значений признака с весами, равными соответствующим частотам.

Замечание. Пусть генеральная совокупность объема N содержит объекты с различными значениями признака X,равными x ₁, х ₂, …, x_N. Представим себе, что из этой совокупности наудачу извлекается один объект. Вероятность того, что будет извлечен объект со значением признака, например x ₁ очевидно, равна 1/ N. С этой же вероятностью может быть извлечен и любой другой объект. Таким образом, величину признака X можно рассматривать как случайную величину, возможные значения которой x ₁, х ₂, …, x_n имеют одинаковые вероятности, равные 1 /N. Найдем математическое ожидание М (Х):

Итак, если рассматривать обследуемый признак X генеральной совокупности как случайную величину, то математическое ожидание признака равно генеральной средней этого признака:

.

Этот вывод мы получили, считая, что все объекты генеральной совокупности имеют различные значения признака. Такой же итог будет получен, если допустить, что генеральная совокупность содержит по нескольку объектов с одинаковым значением признака.

Обобщая полученный результат на генеральную совокупность с непрерывным распределением признака X, и в этом случае определим генеральную среднюю как математическое ожидание признака:

.

Выборочная средняя

 

Пусть для изучения генеральной совокупности относительно количественного признака X извлечена выборка объема п.

Выборочной средней называют среднее арифметическое значение признака выборочной совокупности.

Если все значения x ₁, х ₂, …, x_n признака выборки объема n различны, то

Если же значения признака x ₁, х ₂, …, x_k имеют соответственно частоты n ₁, n ₂, …, n_k, причем п ₁ + п ₂ +… + n_k = n,то

,

или

,

т.е. выборочная средняя есть средняя взвешенная значений признака с весами, равными соответствующим частотам.

Замечание. Выборочная средняя, найденная по данным одной выборки, есть, очевидно, определенное число. Если же извлекать другие выборки того же объема из той же генеральной совокупности, то выборочная средняя будет изменяться от выборки к выборке. Таким образом, выборочную среднюю можно рассматривать как случайную величину, а следовательно, можно говорить о распределениях (теоретическом и эмпирическом) выборочной средней и о числовых характеристиках этого распределения (его называют выборочным), в частности о математическом ожидании и дисперсии выборочного распределения.

Заметим, что в теоретических рассуждениях выборочные значения x ₁, х ₂, …, x_n признака X,полученные в итоге независимых наблюдений, также рассматривают как случайные величины X_l, X ₂,..., Х_n,имеющие то же распределение и, следовательно, те же числовые характеристики, которые имеют X.