Критерий хи-квадрат К. Пирсона

 

Использование этого критерия основано на применении такой меры (статистики) расхождения между теоретическим F(x) и эмпирическим распределением F*_п(x), которая приближенно подчиняется закону распределения χ ². Гипотеза Н₀ о согласованности распределений проверяется путем анализа распределения этой статистики. Применение критерия требует построения статистического ряда.

Итак, пусть выборка представлена статистическим рядом с количеством разрядов M. Наблюдаемая частота попаданий в i- й разряд n_i. В соответствии с теоретическим законом распределения ожидаемая частота попаданий в i -й разряд составляет F_i. Разность между наблюдаемой и ожидаемой частотой составит величину (n_i – F_i). Для нахождения общей степени расхождения между F(x) и F*_п(x) необходимо подсчитать взвешенную сумму квадратов разностей по всем разрядам статистического ряда

(2.7)

Величина χ ² при неограниченном увеличении n имеет χ²-распределение (асимптотически распределена как χ²). Это распределение зависит от числа степеней свободы k, т.е. количества независимых значений слагаемых в выражении (2.7). Число степеней свободы равно числу y минус число линейных связей, наложенных на выборку. Одна связь существует в силу того, что любая частота может быть вычислена по совокупности частот в оставшихся M –1 разрядах. Кроме того, если параметры распределения неизвестны заранее, то имеется еще одно ограничение, обусловленное подгонкой распределения к выборке. Если по выборке определяются S параметров распределения, то число степеней свободы составит k=M –S–1.

Область принятия гипотезы Н₀ определяется условием χ ²< χ ²(k;a), где χ ²(k;a) – критическая точка χ2-распределения с уровнем значимости a. Вероятность ошибки первого рода равна a, вероятность ошибки второго рода четко определить нельзя, потому что существует бесконечно большое множество различных способов несовпадения распределений. Мощность критерия зависит от количества разрядов и объема выборки. Критерий рекомендуется применять при n >200, допускается применение при n >40, именно при таких условиях критерий состоятелен (как правило, отвергает неверную нулевую гипотезу).

 

Алгоритм проверки по критерию

 

1. Построить гистограмму равновероятностным способом.

2. По виду гистограммы выдвинуть гипотезу

H 0: f (x) = f 0(x),

H 1: f (x) f 0(x),

где f 0(x) - плотность вероятности гипотетического закона распределения: равномерного, экспоненциального или нормального.

Замечание. Гипотезу об экспоненциальном законе распределения можно выдвигать в том случае, если все числа в выборке положительные.

3. Вычислить значение критерия по формуле

,

 

где частота попадания в i -тый интервал;

pi - теоретическая вероятность попадания случайной величины в i - тый интервал при условии, что гипотеза H 0верна.

Формулы для расчета pi в случае экспоненциального, равномерного и нормального законов соответственно равны.

Экспоненциальный закон

. (2.8)

При этом A 1 = 0, Bm = +.

Равномерный закон

. (2.9)

Нормальный зако н

. (2.10)

При этом A 1 = -, BM= +.

Замечания. После вычисления всех вероятностей pi проверить, выполня­ется ли контрольное соотношение

Функция Ф(х)- нечетная. Ф(+) = 1.

4. Из таблицы " Хи-квадрат" Приложения выбирается значение , где - заданный уровень значимости (= 0,05 или = 0,01), а k - число степеней свободы, определяемое по формуле

k = M - 1 - S.

Здесь S - число параметров, от которых зависит выбранный гипотезой H 0закон распределения. Значения S для равномерного закона равно 2, для экспоненциального - 1, для нормального - 2.

5. Если , то гипотеза H 0отклоняется. В противном случае нет оснований ее отклонить: с вероятностью 1 - она верна, а с вероятностью - неверна, но величина неизвестна.

Пример3. 1. С помощью критерия 2выдвинуть и проверить гипотезу о законе распределения случайной величины X, вариационный ряд, интерваль­ные таблицы и гистограммы распределения которой приведены в примере 1.2. Уровень значимости равен 0,05.

Решение. По виду гистограмм выдви­гаем гипотезу о том, что случайная величина X распределена по нормальному закону:

H 0: f (x) = N (m,);

H 1: f (x) N (m,).

Значение критерия вычисляем по формуле:

(2.11)

Как отмечалось выше, при проверке гипотезы предпочтительнее использовать равновероятностную гистограмму. В этом случае

Теоретические вероятности pi рассчитываем по формуле (2.10). При этом полагаем, что

p 1= 0,5(Ф((-4,5245+1,7)/1,98)-Ф((-+1,7)/1,98)) = 0,5(Ф(-1,427)-Ф(-)) =

= 0,5(-0,845+1) = 0,078.

p 2 = 0,5(Ф((-3,8865+1,7)/1,98)-Ф((-4,5245+1,7)/1,98)) =

= 0,5(Ф(-1,104)+0,845) = 0,5(-0,729+0,845) = 0,058.

p 3 = 0,094; p 4 = 0,135; p 5 = 0,118; p 6 = 0,097; p 7 = 0,073; p 8 = 0,059; p 9 = 0,174;

p 10 = 0,5(Ф((++1,7)/1,98)-Ф((0,6932+1,7)/1,98)) = 0,114.

После этого проверяем выполнение контрольного соотношения

Тогда

= 100 (0,0062 + 0,0304 + 0,0004 + 0,0091 + 0,0028 + 0,0001 + 0,0100 +

+ 0,0285 + 0,0315 + 0,0017) = 100 0,1207 = 12,07.

После этого из таблицы "Хи - квадрат" выбираем критическое значение

.

Так как то гипотеза H 0принимается (нет основания ее отклонить).

 

 

Критерий А.Н. Колмогорова

 

Для применения критерия А.Н. Колмогорова ЭД требуется представить в виде вариационного ряда (ЭД недопустимо объединять в разряды). В качестве меры расхождения между теоретической F(x) и эмпирической F*_n(x) функциями распределения непрерывной случайной величины Х используется модуль максимальной разности

(2.12)

А.Н. Колмогоров доказал, что какова бы ни была функция распределения F(x) величины Х при неограниченном увеличении количества наблюдений n функция распределения случайной величины d_n асимптотически приближается к функции распределения

Иначе говоря, критерий А.Н. Колмогорова характеризует вероятность того, что величина d_n не будет превосходить параметр l для любой теоретической функции распределения. Уровень значимости a выбирается из условия

 

в силу предположения, что почти невозможно получить это равенство, когда существует соответствие между функциями F(x) и F*_n(x). Критерий А.Н. Колмогорова позволяет проверить согласованность распределений по малым выборкам, он проще критерия хи-квадрат, поэтому его часто применяют на практике. Но требуется учитывать два обстоятельства.

1. В соответствии с условиями его применения необходимо пользоваться следующим соотношением

где

2. Условия применения критерия предусматривают, что теоретическая функция распределения известна полностью – известны вид функции и значения ее параметров. На практике параметры обычно неизвестны и оцениваются по ЭД. Но критерий не учитывает уменьшение числа степеней свободы при оценке параметров распределения по исходной выборке. Это приводит к завышению значения вероятности соблюдения нулевой гипотезы, т.е. повышается риск принять в качестве правдоподобной гипотезу, которая плохо согласуется с ЭД (повышается вероятность совершить ошибку второго рода). В качестве меры противодействия такому выводу следует увеличить уровень значимости a, приняв его равным 0,1 – 0,2, что приведет к уменьшению зоны допустимых отклонений.

Последовательность действий при проверке гипотезы следующая.

1. Построить вариационный ряд.

2. Построить график эмпирической функции распределения F *(x).

3. Выдвинуть гипотезу:

H 0: F (x) = F 0(x),

H 1: F (x) F 0(x),

где F 0(x) - теоретическая функция распределения типового закона: равномерного, экспоненциального или нормального. Ниже приведены формулы для расчета F 0(x).

Равномерный закон

Экспоненциальный закон

Нормальный закон

4. Рассчитать по формулам 10-20 значений и построить зависимость функции F 0(x) в одной системе координат с функцией F * _n (x).

5. По графику определить максимальное по модулю отклонение между функциями F*_n (x) и F 0(x).

6. Вычислить значение критерия

7. Принимают тот или иной уровень значимости (чаще всего 0,05 или 0,01). Тогда доверительная вероятность = 1 -.

8. Из таблицы вероятностей Колмогорова выбрать критическое значение.

9. Если >, то нулевая гипотеза H 0отклоняется, в противном случае - принимается, хотя она может быть неверна.

Достоинства критерия Колмогорова по сравнению с критерием 2: возможность применения при очень маленьких объемах выборки (n < 20), более высокая "чувствительность", а следовательно, меньшая трудоемкость вычислений.

Недостаток: критерий можно использовать в том случае, если параметры Q 1,..., Qk распределения заранее известны, а эмпирическая функция распреде­ления F *(x) должна быть построена по несгруппированным выборочным данным.

Пример 3.3. По критерию Колмогорова проверить гипотезу о равно­мерном законе распределения R (0,5; 5,25) случайной величины по выборке объема 10: 2,68 1,83 2,90 1,03 0,90 4,07 5,05 0,94 0,71 1,16, уровень значимости 0,5.

Решение. Вариационный ряд данной выборки имеет вид:

0,71 0,90 0,94 1,03 1,16 1,83 2,68 2,90 4,07 5,05.

После этого строим график эмпирической функции распределения F *(x).

Теоретическая функция распределения F 0(x) равномерного закона R (0,5;5,25) равна

.

Максимальная разность по модулю между графиками F *(x) и F 0(x) равна 0,36 при х = 1,16.

Вычислим значение статистики

Из таблицы Колмогорова выбираем критическое значение Так как < 1,36, то гипотеза о равномерном законе распределения принимается.

 

Критерий Р. Мизеса

 

В качестве меры различия теоретической функции распределения F(x) и эмпирической F*_n(x) по критерию Мизеса (критерию w²) выступает средний квадрат отклонений по всем значениям аргумента x

. (2.12)

Статистика критерия

 

(2.13)

 

При неограниченном увеличении n существует предельное распределение статистики nw_n². Задав значение вероятности a можно определить критические значения nw_n²(a). Проверка гипотезы о законе распределения осуществляется обычным образом: если фактическое значение nw_n² окажется больше критического или равно ему, то согласно критерию Мизеса с уровнем значимости a гипотеза Но о том, что закон распределения генеральной совокупности соответствует F(x), должна быть отвергнута.

Пример 3.3. Проверить с помощью критерия Мизеса гипотезу о том, что ЭД, представленные вариационным рядом в табл. подчиняются нормальному распределению при уровне значимости a = 0,1.

Решение. Исходные данные и результаты вычислений представлены в табл. 2.1.

i	xi	Fn(xi)	F(xi)	Di	i	xi	Fn(xi)	F(xi)	Di
	25,79 25,98 25,98 26,12 26,13 26,49 26,52 26,60 26,66 26,69 26,74 26,85 26,90 26,91 26,96 27,02 27,11 27,19 27,21 27,28 27,30 27,38	0,011 0,034 0,057 0,080 0,102 0,125 0,148 0,171 0,193 0,216 0,237 0,261 0,284 0,307 0,330 0,352 0,375 0,398 0,421 0,443 0,466 0,489	0,036 0,055 0,055 0,073 0,075 0,144 0,151 0,170 0,188 0,196 0,211 0,246 0,263 0,267 0,284 0,305 0,337 0,371 0,378 0,406 0,412 0,447	0,618 0,429 0,003 0,047 0,726 0,378 0,009 0,000 0,025 0,409 0,742 0,231 0,439 1,572 2,071 2,243 1,467 0,717 1,790 1,391 2,866 1,755		27,40 27,49 27,64 27,66 27,71 27,78 27,89 27,89 28,01 28,10 28,11 28,37 28,38 28,50 28,63 28,67 28,90 28,99 28,99 29,03 29,12 29,28	0,511 0,534 0,557 0,580 0,602 0,625 0,648 0,671 0,693 0,716 0,739 0,761 0,784 0,807 0,830 0,852 0,875 0,898 0,921 0,943 0,966 0,989	0,456 0,492 0,555 0,561 0,583 0,610 0,656 0,656 0,701 0,731 0,735 0,817 0,819 0,851 0,879 0,888 0,928 0,939 0,940 0,944 0,954 0,968	3,103 1,765 0,003 0,332 0,374 0,216 0,063 0,213 0,067 0,238 0,013 3,090 1,230 1,908 2,461 1,271 2,791 1,737 0,381 0,001 0,149 0,432

 

В этой таблице:

F_n(x_i) =(i –0,5)/44 – значение эмпирической функции распределения;

F(x_i) – значение теоретической функции распределения, соответствует значению функции нормального распределения в точке x_i;

D_i =1000[F_n(x_i) – F(x_i)]². Здесь масштабный множитель 1000 введен для удобства отображения данных в таблице, при расчетах он не используется.

Критическое значение статистики критерия Мизеса при заданном уровне значимости равно 0,347, табл. П.2. Фактическое значение статистики

что меньше критического значения. Следовательно, гипотеза Н₀ не противоречит имеющимся данным.

Достоинством критерия Мизеса является быстрая сходимость к предельному закону, для этого достаточно не менее 40 наблюдений в области часто используемых на практике больших значений nw_n (а не несколько сот, как для критерия хи-квадрат).

Сопоставляя возможности различных критериев, необходимо отметить следующие особенности. Критерий Пирсона устойчив к отдельным случайным ошибкам в ЭД. Однако его применение требует группирования данных по интервалам, выбор которых относительно произволен и подвержен противоречивым рекомендациям. Критерий Колмогорова слабо чувствителен к виду закона распределения и подвержен влиянию помех в исходной выборке, но прост в применении. Критерий Мизеса имеет ряд общих свойств с критерием Колмогорова: оба основаны непосредственно на результатах наблюдения и не требуют построения статистического ряда, что повышает объективность выводов; оба не учитывают уменьшение числа степеней свободы при определении параметров распределения по выборке, а это ведет к риску принятия ошибочной гипотезы. Их предпочтительно применять в тех случаях, когда параметры закона распределения известны априори, например, при проверке датчиков случайных чисел.

При проверке гипотез о законе распределения следует помнить, что слишком хорошее совпадение с выбранным законом распределения может быть обусловлено некачественным экспериментом («подчистка» ЭД) или предвзятой предварительной обработкой результатов (некоторые результаты отбрасываются или округляются).

Выбор критерия проверки гипотезы относительно произволен. Разные критерии могут давать различные выводы о справедливости гипотезы, окончательное заключение в таком случае принимается на основе неформальных соображений. Точно также нет однозначных рекомендаций по выбору уровня значимости.

Рассмотренный подход к проверке гипотез, основанный на применении специальных таблиц критических точек распределения, сложился в эпоху "ручной" обработки ЭД, когда наличие таких таблиц существенно снижало трудоемкость вычислений. В настоящее время математические пакеты включают процедуры вычисления стандартных функций распределений, что позволяет отказаться от использования таблиц, но может потребовать изменения правил проверки. Например, соблюдению гипотезы Н₀ соответствует такое значение функции распределения критерия, которое не превышает значение доверительной вероятности 1– a (оценка статистики критерия соответствует доверительному интервалу).