Статистические оценки параметров распределения. Метод моментов оценки параметров

Пусть  - выборка из теоретического распределения , зависящего от неизвестного параметра .

Оценкой (статистикой)  неизвестного параметра  называется любая борелевская функция от наблюдаемых случайных величин.

Оценка  неизвестного параметра  называется несмещенной, если ее математическое ожидание равно оцениваемому параметру, т. е. .

В противном случае оценка называется смещенной.

Можно показать, что выборочное среднее   является несмещенной оценкой теоретического математического ожидания, а выборочная дисперсия  является смещенной оценкой теоретической дисперсии. Исправленная выборочная дисперсия

является несмещенной оценкой теоретической дисперсии.

Состоятельной называют статистическую оценку, которая при неограниченном увеличении числа наблюдений стремится по вероятности к оцениваемому параметру: .

Можно показать, что оценки ,  и  являются состоятельными оценками теоретического математического ожидания и теоретической дисперсии соответственно.

Несмещенная оценка  параметра называется эффективной, если она имеет наименьшую дисперсию в классе несмещенных оценок, т. е. если  – произвольная несмещенная оценка параметра, а  – эффективная, то  .

Рассмотрим основные методы получения оценок.

Метод моментов. Пусть имеется выборка  из распределения , зависящего от неизвестных параметров , которые нужно оценить. Поскольку известен вид теоретической функции распределения, можем вычислить первые k теоретических моментов (начальных или центральных). Эти моменты будут зависеть от k неизвестных параметров .

Суть метода моментов заключается в следующем: эмпирические моменты являются оценками соответствующих теоретических моментов, поэтому теоретические моменты  приравнивают к соответствующим эмпирическим , а затем, решая систему относительно , находят оценки неизвестных параметров.

Таким образом, в методе моментов оценки  неизвестных параметров  определяются как решение системы k уравнений с k неизвестными:

В таблице ниже приведены формулы для вычисления эмпирических и соответствующих им теоретических моментов порядка k.

Таблица 7 – Эмпирические и теоретические моменты

Моменты	Теоретические	Эмпирические
Начальные
Центральные

 

Метод максимального правдоподобия. Пусть имеется выборка  - выборка из теоретического распределения , зависящего от неизвестных параметров которые нужно оценить.

Основу метода составляет функция правдоподобия:

.

В дискретном случае функция  выражает вероятность того, что теоретическая случайная величина примет значение ,  

В абсолютно непрерывном случае функция – значение теоретической плотности распределения вероятностей в точке ,

Согласно методу максимального правдоподобия в качестве оценки неизвестных параметров  принимаются такие значения , которые максимизируют функцию правдоподобия.

Нахождение оценок может упрощаться, если максимизировать не саму функцию L, а .

Задания 8 1 – 9 0

Выборка представлена интервалами и частотами попаданий в эти интервалы. Найти середины интервалов и частости. Допуская, что генеральная совокупность имеет нормальный закон распределения

,

1) оценить методом моментов параметры а и ;

2) сравнив результаты графически, построить на одном рисунке гистограмму частостей и соответствующую кривую плотности распределения.

81.

Интервал	2-2,75	2,75-3,5	3,5-4,25	4,25-5	5-5,75	5,75-6,5	6,5-7,25	7,25-8
Частота	2	8	15	26	25	13	10	1

82.

Интервал	2-2,75	2,75-3,5	3,5-4,25	4,25-5	5-5,75	5,75-6,5	6,5-7,25	7,25-8
Частота	1	3	19	25	21	21	5	5

83.

Интервал	2-2,875	2,875-3,75	3,75-4,625	4,625-5,5	5,5-6,375	6,375-7,25	7,25-8,125	8,125-9
Частота	0	8	13	33	28	14	3	1

84.

Интервал	2-3	3-4	4-5	5-6	6-7	7-8	8-9	9-10
Частота	1	5	21	33	26	10	3	1

85.

Интервал	1-2	2-3	3-4	4-5	5-6	6-7	7-8	8-9
Частота	1	1	9	32	24	22	8	3

86.

Интервал	2-3	3-4	4-5	5-6	6-7	7-8	8-9	9-10
Частота	3	7	29	33	20	7	0	1

87.

Интервал	2-2,875	2,875-3,75	3,75-4,625	4,625-5,5	5,5-6,375	6,375-7,25	7,25-8,125	8,125-9
Частота	2	7	16	19	23	20	5	2

88.

Интервал	2-2,75	2,75-3,5	3,5-4,25	4,25-5	5-5,75	5,75-6,5	6,5-7,25	7,25-8
Частота	2	2	5	17	31	21	16	6

89.

Интервал	2-3	3-4	4-5	5-6	6-7	7-8	8-9	9-10
Частота	1	6	16	37	27	12	0	1

90.

Интервал	2-3	3-4	4-5	5-6	6-7	7-8	8-9	9-10
Частота	2	3	11	34	27	17	5	1

Пример выполнения заданий 81-90

Случайная величина Х (отклонение контролируемого размера изделия  от номинала) подчинена нормальному закону распределения с неизвестными параметрами  и . Ниже приведено эмпирическое распределение отклонения от номинала  изделий (в первой строке указано отклонение  (мм), во второй строке приведена частота - количество изделий, имеющих отклонение ):

Таблица 8

	0,3	0,5	0,7	0,9	1,1	1,3	1,5	1,7	1,9	2,1	2,3
	6	9	26	25	30	26	21	24	20	8	5

 

Методом моментов найти точечные оценки неизвестных параметров  и  нормального распределения.

Решение. Найдем начальный эмпирический момент первого порядка и центральный эмпирический момент второго порядка. Согласно формулам из таблицы 7:

Эмпирический момент второго порядка – это выборочная дисперсия, которую рассчитаем по формуле:

.

Таким образом,

Составляем систему уравнений:

В нашем случае

Таким образом, ,

Точечные оценки неизвестных параметров  и  нормального распределения ,

Плотность нашего распределения имеет вид:

.

Чтобы убедиться в правильности нашего решения, подставим в полученную формулу значения х и найдем значения :

Таблица 9

	0,3	0,5	0,7	0,9	1,1	1,3	1,5	1,7	1,9	2,1	2,3
	0,32	0,45	0,59	0,71	0,79	0,81	0,77	0,67	0,54	0,40	0,28

Построим гистограмму относительных частот и график полученной функции распределения: