Оценка статистической значимости уравнения в целом. F-критерий Фишера

Оценка статистической значимости коэффициента r²:

Находим значение r², далее выдвигаем гипотезы

Н₀: r² = 0

Н₁: r² ≠ 0

F_ф = (r²*(n-2))/(1- r²)

Находим значение F_кр(1;n-2) по таблице.

Если F_ф<F_кр, то нет оснований отвергать Н₀ и мы ее принимаем на уровне значимости 5%, следовательно уравнение регрессии в целом статистически не значимо, в обратном случае мы отвергаем гипотезу Н₀ и на уровне значимости 95% принимаем гипотезу Н₁, значит, уравнение регрессии в целом статистически значимо.

Модель множественной регрессии.

Y_t= B₁ + B₂x_t2 + B₃x_t3 +…+ B_nx_tn + U_t

Где t=1,…n (номер регрессора(строки))

x_t1 = 1, при всех t =1,…n

Y = (y₁, y₂,…y_n)^T (nx1)

B = (B₁, B₂…B_n)^T (kx1)

U = (U₁, U₂,…U_n)^T (nx1)

x₁₁ x₁₂ x₁₃….x_1k

X= x₂₁ x₂₂ x₂₃….x_2k (nxk)

………………..

x_n1 x_n2 x_n3….x_nk

Спецификация модели: y = xB + U

X – детерменированная матрица с максимальным рангом k

E(U) = 0, E(U*U^T) = б²*In. Где In – единичная матрица

U~N(0, б²*In)

B^-вектор оценок неизвестных параметров

B^ = (x^T*x)-1*x^T*y

Коэффициент регрессии во множественной модели – это показатели силы связи, характеризующие абсолютное изменение результирующего признака при изменении факторного признака на одну единицу своего измерения, при фиксированном влиянии остальных факторов, включенных в модель.

Например. y^ = 116,7 + 0,112x1 – 0,739x2

у- расходы на питание (руб.)

x1- доход (руб.)

x2- ср цена (руб.)

Ограничения модели множественной регрессии.

В качестве ограничений к модели множественной регрессии можно использовать условия теоремы Гаусса - Маркова для модели множественной регрессии:

1. Спецификация модели: наша объясняемая переменная у должна быть связана с объясняющей переменной х след образом: Уt = β₁х_t1 +… + β_kхt_k + u_t

2. Х(вектор) – детерминированная величина

X_s = (x_1s, …,x_ns)^т, s=1,…,k

3. Мат ожидание случайной компоненты равно 0, E(u_t ²)= σ² для любого t

4. Должна выполняться некоррелированность (отсутствие автокорреляции): E(u_t; u_s)=0

5. u_t принадлежит N(0; σ²)

 

Идентификация параметров множественной регрессии МНК.

Уравнение множественной регрессии выглядит следующим образом:

y=f(x₁,…x_k)= a + b₁x₁ +b₂x₂ +…+b_kx_k

На первом шаге идентификации параметров множественной регрессии мы находим их с помощью МНК по следующим формулам:

b_i=β_i*(σ_y/σ_xi)

a=y_ср-b₁*x_1ср-…- b_k*x_kср

После их нахождения, мы оцениваем их статистическую значимость. Для этого мы сначала определяем наши гипотезы H₁ и H₀, а потом с помощью t- статистики проверяем их на статистическую значимость

Интерпретация параметров уравнения множественной регрессии

y=a + b₁x₁ +b₂x₂ +…+b_kx_k

Параметр а в уравнении множественной регрессии показывает, чему равна объясняемая переменная y, при условии что все объясняющие переменные равны нулю (экономически это может иметь или не иметь смысла).

Параметр b_i показывает на сколько единиц изменится у в своих единицах измерения, если факторный признак х_i увеличится на одну единицу своего измерения.

Если х_i - фактическая переменная, то параметр b_i показывает на сколько единиц изменится у в своих единицах измерения, если факторный признак х_i увеличится на одну единицу своего измерения при прочих фиксированных переменных.

yt=β₁+β₂x_t2+β₃x_t3+…+ βkx_tk+ξ_t

Если |βi|<|βi+1|, то сила влияния x_ti на y_t больше, чем сила влияния x_ti+1 на y_t.

 

Показатели тесноты связи во множественном регрессионном анализе – парные и частные коэффициенты корреляции.

Для анализа тесноты связи используются три группы коэффициентов:

1)парные

2) частные

3) множественные

Парные коэффициенты – это обычные линейные коэффициенты корреляции, которые характеризуют тесноту линейной связи между парами признаков.

r_xjy = ((x_jy)_ср - х_срjу_ср)/σ_xjσ_y

r_xjxs = (x_jx_sср - х_срjx_sср)/σ_xjσ_xs

Мультиколлинеарность – ситуация, когда регрессоры тесно связаны между собой. Для оценки мультиколлинеарности составляется и анализируется матрица парных коэффициентов корреляции. В первой строке и в первом столбце записывают все факторы, начиная с зависимой переменной. В клетках матрицы рассчитывают соответствующие парные коэффициенты корреляции.

Парные коэффициенты корреляции между регрессорами так же могут принимать значения в пределах от -1 до 1 и имеют такую же интерпретацию как для случая корреляции с зависимой переменной.

Если r_xjxs>0,7 тогда считают, что регрессоры коллинеарные, т.е. между регрессорами существует тесная связь. В этом случае нельзя определить изолированное влияние на результирующий показатель и параметры уравнения регрессии оказываются неинтерпретируемыми.

Возникает вопрос: нужно ли исключать коррелируемые регрессоры? Однозначного ответа на этот вопрос нет. Существует даже такая школа, представители которой считают, что и не нужно ничего делать, поскольку «так устроен мир». Другие эконометристы считают, что необходимо исключить «лишние» регрессоры, которые могут служить причиной мультиколлинеарности.

Одна из самых главных проблем, которую порождает мультиколлинеарность статистическая незначимость коэффициентов регрессии.

Во-первых, не всегда ясно, какие переменные являются «лишними». Во-вторых, удаление независимых переменных может значительно отразиться на содержательном смысле модели. В-третьих, удаление переменных, которые реально влияют на изучаемую зависимую пременную приводит к смещению МНК-оценок.

Теоретически регрессионная модель позволяет учесть любое число факторов, практически в этом нет необходимости.

Отбор факторов проводится на основе качественного теоретико-экономического анализа. Но теоретический анализ не всегда позволяет однозначно ответить на вопрос о количественной взаимосвязи рассматриваемых признаков и целесообразности включения их в модель.

Поэтому отбор факторов обычно проводится в два этапа:

1. Отбираются факторы, исходя из сущности проблемы

2. На основе матрицы парных коэффициентов корреляции и определения t-статистик для параметров регрессии.

Если факторы явно коллинеарны, то они дублируют друг друга и один из них рекомендуется исключить из регрессии. Предпочтение при этом отдается не фактору, более тесно связанному с результатом, а тому фактору, который при достаточно тесной связи с результатом имеет наименьшую тесноту с другими факторами.

Частные коэффициенты корреляции:

Для решения проблемы коллинеарности можно использовать частные коэффициенты, которые характеризуют тесноту связи между результатом и регрессором при фиксированном влиянии др факторов

r_yx1x2 = (r_yx1 – r_yx1r_x1x2)/√(1-r_yx2²)(1-r_x1x2²)

Исключаем тот регрессор, для которого частный коэффициент наименьший, т.к. учтено взаимное влияние регрессоров.

Стандартизированное уравнение множественной регрессии.

Возможен др. подход к построению модели множественной регрессии – это ур-е в стандартизированном масштабе.

Введем новые стандартиз. переменные по след правилу:

Z_y = (y-y`)/б_y,

где Z_y - стандартиз завис перем,

(y-y`)/б_y - среднеквадратич отклонение.

Z_x1 = (x₁-x`₁)б_x1

………………..

Z_xk = (x_k-x`_k)б_xk

Z`<sub>y</sub> = Z`_x1 = Z`<sub>x2</sub> =…= Z`_xk = 0

б_Zy = б_Zx1 = б_Zx2 =…= б_Zxk = 1

Z_y = B₁Z_x1 + B₂Z_x2 +…+B_kZ_xk + U

r_yx1 = B₁ + B₂r_x2x1 + B₃r_x3x1+…+B_kr_xkx1

r_yx2 = B₁r_x1x2 + B₂ + B₃r_x3x2+…+B_kr_xkx2

…………………………………………..

r_yxk = B₁r_x1xk + B₂r_x2xk+…+B_k

r_x1x2 – парн коэфф коррел между соответствующими признаками

Z_y = B`<sub>1</sub>Z<sub>x1</sub> + B`₂Z_x2 +…+ B`_kZ_xk

Стандартизированные коэффициенты регрессии показывают на сколько средних кв отклонений изм результат, если соотв фактор возрастет на одно среднее кв отклонение б.

В силу того, что что все переменные заданы как нормированные и центрированные стандартиз коэфф-ты регрессии Bj сравнимы между собой. На основе В коэфф-ов можно ранжировать факторы по силе их воздействия на рез-т.

Методы отбора факторов:

Проблема выбора оптимального состава регрессора решается на основе содержательного (качественного) и количественного анализа тенденций рассматриваемых процессов.На этапе сод анализа решается вопрос о целесообразности включения в модель тех или иных факторов исхода из эк теории и здравого смысла. Например, при моделировании макроэк произв функций, решается проблема установления самого факта взаимосвязи между явлениями. Однако каждое из явлений может быть описано разными факторами или даже комбинацией факторов. Поэтому на основании качественного анализа однозначно состав независимых переменных (регрессоров) установить нельзя, могут существовать альтернативные наборы независимых переменных.