Статистический анализ mr-модели с помощью модели дисперсионного анализа.

В основном для MR-модели используются те же меры качества, что и для К-модели. Внутренние меры качества для MR-модели вводятся с помощью таблицы ДА.

Источник дисперсии	Сумма квадратов	Степень свободы	Средний квадрат	F-статистика
Регрессия	SSR	VR = р-1	MSR = SSR/VR	MSR/MSe
Отклонение от регрессии	SSe	Ve = n - р	MSe = SSe/Ve= S^2
Полная регрессия	SS	V = n - 1

 

Основное практическое назначение таблицы ДА- получение значений остаточной дисперсии S² и выборочной F-статистики.

Смешенные меры качества модели.

а) ошибки (дисперсии) прогноза. Назовем смешенной мерой, мера которая определяет степень пригодности модели для прогноза и является функцией внутренних мер σ²

Для оценки качества можно применять уже рассмотренные дисперсии отдельного прогноза, предполагая отсутствие смещения моделей, т е MY=Xβ

Для серии наблюдения Xi нетрудно ввести обобщенную (среднюю) дисперсию.

б)ошибка прогноза с учетом систематического сдвига.

На практике при сравнении модели с различным числом регрессоров невозможно соблюдение условия MY=Xβ. Следовательно дисперсия прогноза должна включать систематический сдвигΔ²

D(Y_k^)= S² (1/n + X_k^T (X^TX)^-1X_k)+ Δ², где Δ – систематическое смещение математического ожидания прогноза, которое надо оценить.

Одну из смещенных мер такого вида предложил Меллоус. Им введена мера С_р=SSe/S² + 2p-n, где Sse- остаточная сумма квадратов; p- количество неизвестных в исследуемой структуре; S² – остаточная дисперсия для полной модели; n-объем выборки.

При сравнении нескольких моделей оптимальной считается модель с минимальным значением С_р.

Внешние меры качества.

Предполагалось, что в основном модели используются для прогноза – Вычислений Y^. Назовем такие модели моделями прогноза. Однако в ряде случаях исследователя интересуют только оцениваемые коэффициенты β_j (j=0,р-1). Эти модели будем называть параметрическими.

Для последних в качестве внутренних мер дополнительно можно использовать стандартные ошибки коэффициента σ^_βj и недиагональные элементы матрицы ковариаций. Правда такой анализ имеет смысл делать только для конкурирующих структур одинаковой размерности.

Под внешними мерами будем понимать меры, формируемые по данным не использованным при получении модели.

а)Меры устойчивости β_j.Эти меры используются как для модели прогноза, так и для параметрических моделей. При их формировании проверяется устойчивость β- коэффициентов модели, построенной по всем наблюдениям. Для этого полный ряд наблюдений делят на несколько серий, по каждой серии получают модели одного состава и размерности, как и для исследуемой модели, сравнивают β-коэф. Для моделей разных серий и этой модели, применяя соответствующие статистические критерии. При обнаружении значимых расхождений использование моделей или ее отдельных коэф-ов будет сомнительной.

в)меры качества прогноза. Внешние меры, характеризующие точность прогноза в случайном и систематическом отношении, основаны на разделение исходной выборки данных на 2 подвыборки: обучающую (модельную) и контрольную. При этом данные могут быть либо реально разделены на две части, либо контрольная часть будет искусственно сформирована на исходной полной выборке.

Если выборка может быть разделена на две части, то обучающая подвыборка используется для построении модели. А контрольная дает возможность оценить качество прогноза по мерам, основанным на разностях Δ_i = (y_i-y^_i) для контрольных точек. При этом мера Δср.= ∑Δ_i/k или ее абсолютное значение будет оценкой систематического смещения, а мера σ_Δ=√∑(Δ_i-Δср.)²/(k-p) – оценкой случайной ошибки.

Основные предположения РА о выборке.

Y является выборочном случайном вектором. Следовательно, для модели уравнение Y=Xβ+ε существует генеральная совокупность значений Y объема N→∞ и выборка объема n, отобранная определенным образом для изучения.

Для суждения по выборке по всей генеральной совокупности необходимо, чтобы она была представительной. Это означает, что она должна обладать следующими свойствами:

<1.1> - объем наблюдений достаточен

<1.2> - при организации наблюдений обеспечивается случайный выбор

<1.3>- ряд наблюдений однороден

<1.4> - отсутствуют грубые промахи.

Вопрос 29.

Предположение о векторе β.

По оцениваемому параметру β принимаются гипотезы:< 2.1>-адекватная наблюдениям модель (2.1)- Y=Xβ+ε линейна по элементам вектора β;<2.2>на вектор β не наложено ограничений, т.е. о векторе β нам априори ничего не известно;<2.3>- элементы β вычислены с пренебрежимо малой компьютерной ошибкой.

 

В.30

Предположение о матрице X.

<3.1>- регрессоры x₀,x_1,….,x_p-1 являются линейно-независимыми векторами матрицы X или справедлива запись rankX=p; <3.2> - элементы матрицы Xне являются случайными величинами.

В.31

Предположения о векторе ε.

Предположения о векторе ошибок ε. <4.1>- ошибки ε_i являются случайными ошибками, аддитивно входящими в модель (2.1)- Y=Xβ+ε. Вообще можно предполагать ошибки, входящие в модель мультипликативно, например, y_i=(β₀+∑(^p-1_j=1)β_jx_ij)(1+ε_i). В этом случае характер остальных предположений на вектор ε изменится.

<4.2>-ошибки ε_iраспределены по нормальному закону. Если это так, то МНК-оценки в условиях теоремы Гаусса-Маркова дополнительно обладают свойством эффективности для всех классов несмещённых оценок (а не только в классе линейных оценок). Кроме этого возможно применение статистик для интервального оценивания, проверки соблюдения ряда гипотез и качества модели, а также заключения о статистической независимости.

<4.3>- ошибки ε_iне содержит систематического смещения. При такой гипотезе систематические ошибки, ВЫЗВАННЫЕ НЕУЧТЁННЫМИ ЭФФЕКТАМИ, ВОЙДУТ В β₀.

<4.4>- ошибки ε_iимеют постоянную дисперсию,т.е. наблюдения Y₁,….,y_nне коррелированы и при справедливости <4.2> статистически независимы.

В.32.

Дополнительные предположения о векторе Y.

Гипотезы <2>-<4> одновременно являются в совокупности гипотезами о вектореY: (Предположения о векторе ε.

Предположения о векторе ошибок ε. <4.1>- ошибки ε_i являются случайными ошибками, аддитивно входящими в модель (2.1)- Y=Xβ+ε. Вообще можно предполагать ошибки, входящие в модель мультипликативно, например, y_i=(β₀+∑(^p-1_j=1)β_jx_ij)(1+ε_i). В этом случае характер остальных предположений на вектор ε изменится.

<4.2>-ошибки ε_iраспределены по нормальному закону. Если это так, то МНК-оценки в условиях теоремы Гаусса-Маркова дополнительно обладают свойством эффективности для всех классов несмещённых оценок (а не только в классе линейных оценок). Кроме этого возможно применение статистик для интервального оценивания, проверки соблюдения ряда гипотез и качества модели, а также заключения о статистической независимости.

<4.3>- ошибки ε_iне содержит систематического смещения. При такой гипотезе систематические ошибки, ВЫЗВАННЫЕ НЕУЧТЁННЫМИ ЭФФЕКТАМИ, ВОЙДУТ В β₀.

<4.4>- ошибки ε_iимеют постоянную дисперсию,т.е. наблюдения Y₁,….,y_nне коррелированы и при справедливости <4.2> статистически независимы.

Предположение о матрице X.

<3.1>- регрессоры x₀,x_1,….,x_p-1 являются линейно-независимыми векторами матрицы X или справедлива запись rankX=p; <3.2> - элементы матрицы Xне являются случайными величинами.

гипотезы:< 2.1>-адекватная наблюдениям модель (2.1)- Y=Xβ+ε линейна по элементам вектора β;<2.2>на вектор β не наложено ограничений, т.е. о векторе β нам априори ничего не известно;<2.3>- элементы β вычислены с пренебрежимо малой компьютерной ошибкой.) Дополнительно введём следующие два предположения. <5/1>- метод поиска оптимального набора регрессоров {xj:j=1,p1;p1<p} для Yявляется точным. Очевидно, при однокритериальном поиске оптимальной модели из 2p-1 возможным является метод полного перебора. До сих пор рассматривалась MR-модель для одного отклика называемая многооткликовая регрессия, для которой будем считать регрессионные модели независимыми друг от друга.Итак, <5.1>- для многооткликовой задачи правомерно применение МНК к каждой из регрессии в отдельности.

В.34.