Отбор факторов в модель множественной регрессии

 

Построение уравнения множественной регрессии начинается с решения вопроса о спецификации модели. Применительно к множественной регрессии, необходимо до определения вида модели, произвести отбор факторов.

Факторы, включаемые в модель должны быть:

1) количественно измеримы. Если необходимо включить в модель качественный фактор, не имеющий количественного измерения, то ему нужно придать количественную определенность.

2) факторы не должны быть интеркоррелированы и тем более находиться в точной функциональной связи. Это может привести к тому, что система уравнений может оказаться плохо обусловленной и повлечь за собой неустойчивость и ненадежность оценок коэффициентов регрессии. Если между факторами существует высокая корреляция, то нельзя определить их изолированное влияние на результативный показатель и параметры уравнения оказываются не интерпретируемыми.

По величине парных коэффициентов корреляции обнаруживается явная коллинеарность факторов, но может быть и мультиколлинеарность факторов, когда более чем 2 фактора связаны между собой линейной зависимостью, т.е. имеет совокупное воздействие факторов друг на друга. Наличие мультиколлинеарности факторов может означать, что некоторые факторы всегда будут действовать в унисон. В результате вариация в исходных данных перестает быть независимой, и нельзя оценить воздействие каждого фактора в отдельности. Чем сильнее мультиколлинеарность, тем менее надежна оценка с помощью МНК.

Для оценки мультиколлинеарности может использоваться определитель (det) матрицы парных коэффициентов корреляции. Если бы факторы не коррелировали между собой, то

- идеальный случай.

Если есть связь между факторами и все коэффициенты корреляции равны 1, то

.

При отборе факторов рекомендуется пользоваться следующим правилом: число включаемых факторов примерно в 6-7 раз меньше объема совокупности, по которой строится регрессия. Если это соотношение нарушено, то число степеней свободы остаточной вариации очень мало. Это приводит к тому, что параметры уравнения регрессии оказываются статистически незначимыми.

В линейной множественной регрессии параметры при называются коэффициентами чистой регрессии, они характеризуют среднее изменение результата с изменением соответствующего фактора на 1 единицу при неизменном значении других факторов, закрепленных на среднем значении.