Следует ли всегда исключать из уравнения незначимые переменные. Почему да, или почему нет.

Переменная может быть незначимой, но существенной для конкретной модели. Тогда ее нельзя исключать. Исключение незначимой переменной может привести к смещению коэффициентов других переменных модели.

 

203. Как можно оценить значимость вклада одной переменной, включаемой в регрессионную модель (необходимо знать два метода, основанных соответственно на использовании t -критерия и F-критерия)?

Значимость включаемой переменной измеряется t-статистикой соответствующего коэффициента. (t тест подходит только для оценки включения одного фактора).

Эквивалентный метод – использование F- критерия. Эквивалентность предполагает двухстороннюю альтернативу для t-критерия.

F-тест (универсальный способ, применимый для включения любого числа факторов)

или

Должно быть

ИТАК: t-статистика при переменной выполняет 2 функции

1) показывает значимость коэффициента

2) показывает, не является ли целесообразным исключить ее из уравнения

Так как t-стат одна, то эти функции совпадают: если переменная значима, ее целесообразно оставить в уравнении (вообще говоря).

Как можно оценить значимость вклада одновременно нескольких переменных,

Включаемых в регрессионную модель?

Значимость группы переменных не означает значимости каждой из переменных

Значимость включаемой группы переменных измеряется F-тестом

 

Каково соотношение между значимостью вклада группы включаемых переменных и вкладами отдельно каждой из включаемых переменных?

Значимость группы переменных не означает значимости каждой из переменных.

Каковы основные критерии для включения в модель регрессии новой переменной?

Причины задуматься о необходимости включения новой переменной (фантазия на тему).

1. Явная заниженность / завышенность оценки уже включенной переменной.

2. Низкий R².

Основные критерии для включения в модель регрессии новой переменной:

1. Роль переменной в уравнении опирается на прочные теоретические основания

2. Высокие значения t-статистики

3. Исправленный коэффициент детерминации растет при включении переменной

4. Другие коэффициенты испытывают значительное смещение при включении новой переменной

Каковы правила для исключения незначимой переменной из уравнения регрессии?

Исключение переменной означает, что ее влияние на новую регрессию будет осуществляться через случайный член. В таком случае возникает угроза значимости модели в целом, теоретическому смыслу знака коэффициента оставшихся переменных. Поэтому исключение незначимой переменной целесообразно, если:

1) Не возникает смещения оценок

2) Оценки коэффициентов и модель, не включающая незначимую переменную, значимы.

3) Существенная переменная не должна быть исключена (существенная – значимая на основании теории)

4) Оценки коэффициентов при переменных после исключения устойчивы (изменяются незначительно).

Каковы основные процедуры поиска спецификации уравнения регрессии? В чем заключаются сравнительные достоинства и недостатки этих процедур?

1. Последовательный восходящий поиск

2. Последовательный нисходящий поиск

Обе процедуры приводят к серьезным ошибкам и следует избегать их автоматического применения, либо резко ограничивать объем поиска.

Как влияет включение переменной в уравнение множественной регрессии на

коэффициент детерминации R²?

При включении любой переменной он никогда не уменьшается, а обычно растет.

210. Как влияет включение переменной в уравнение множественной регрессии на скорректированный коэффициент детерминации ?

Добавление новой переменной к регрессии приведет к росту , если и только если соответствующая t статистика больше 1 (или меньше -1). Следовательно рост при добавлении новой переменной необязательно означает, что ее коэффициент значимо отличается от нуля.

Как влияет включение переменной в уравнение множественной регрессии на