Множественная (многофакторная) регрессия

Изучение связи между тремя и более связанными между собой признаками носит название множественной (многофакторной) регрессии:

` у_{1,2,…, k} = f (х₁, х₂,…, х _k)

Построение моделей множественной регрессии включает несколько этапов:

1. Выбор формы связи (уравнение регрессии);

2. Отбор факторных признаков;

3. Обеспечение достаточного объёма совокупности.

Выбор типа уравнения затрудняется тем, что для любой формы зависимости можно выбрать целый ряд уравнений, которые в определённой степени будут описывать эти связи. Основное значение имеют линейные модели в силу простоты и логичности их экономической интерпретации.

Важным этапом построения уже выбранного уравнения множественной регрессии является отбор и последующее включение факторных признаков.

С одной стороны, чем больше факторных признаков включено в уравнение, тем оно лучше описывает явление. Однако модель размерностью 100 и более факторных признаков сложно реализуема и требует больших затрат машинного времени. Сокращение размерности модели за счёт исключения второстепенных, экономически и статистически несущественных факторов способствует простоте и качеству её реализации. В то же время построение модели регрессии малой размерности может привести к тому, что такая модель будет недостаточно адекватна исследуемым явлениям и процессам.

Проблема отбора факторных признаков для построения моделей взаимосвязи может быть решена на основе интуитивно-логических или многомерных статистических методов анализа.

Наиболее приемлемым способом отбора факторных признаков является шаговая регрессия (шаговый регрессионный анализ). Сущность метода шаговой регрессии заключается в последовательном включении факторов в уравнение регрессии и последующей проверке их значимости. Факторы поочерёдно вводятся в уравнение так называемым «прямым методом». При проверке значимости введённого фактора определяется, на сколько уменьшается сумма квадратов остатков и увеличивается величина множественного коэффициента корреляции (R ²). Одновременно используется и обратный метод, то есть исключение факторов, ставших незначимыми.

Фактор является незначимым, если его включение в уравнение регрессии только изменяет значения коэффициентов регрессии, не уменьшая суммы квадратов остатков и не увеличивая их значения. Если при включении в модель соответствующего факторного признака величина множественного коэффициента корреляции увеличивается, а коэффициента регрессии не изменяется (или меняется несущественно), то данный признак существенен и его включение в уравнение регрессии необходимо. В противном случае, фактор нецелесообразно включать в модель регрессии.

При построении модели регрессии возможна проблема мультиколлинеарности, под которой понимается тесная зависимость между факторными признаками, включёнными в модель.

Наличие мультиколлинеарности между признаками приводит к:

- искажению величины параметров модели, которые имеют тенденцию к завышению, чем осложняется процесс определения наиболее существенных факторных признаков;

- изменению смысла экономической интерпретации коэффициентов регрессии.

В качестве причин возникновения мультиколлинеарности между признаками, можно выделить следующие:

- изучаемые факторные признаки являются характеристикой одной и той же стороны явления или процесса. Например: показатели объёма производимой продукции и среднегодовой стоимости основных фондов одновременно включать в модель не рекомендуется, так как они оба характеризуют размер предприятия;

- факторные признаки являются составляющими элементами друг друга;

- факторные признаки по экономическому смыслу дублируют друг друга.

Устранение мультиколлинеарности может реализовываться через исключение из корреляционной модели одного или нескольких линейно-связанных факторных признаков или преобразование исходных факторных признаков в новые, укрупнённые факторы.

Вопрос о том, какой из факторов следует отбросить, решается на основании качественного и логического анализа изучаемого явления. Качество уравнения регрессии зависит от степени достоверности и надёжности исходных данных и объёма совокупности. Исследователь должен стремиться к увеличению числа наблюдений, так как большой объём наблюдений является одной из предпосылок построения адекватных статистических моделей.

Аналитическая форма связи результативного признака от ряда факторных выражается и называется многофакторным (множественным) уравнением регрессии или моделью связи.

Линейное уравнение множественной регрессии имеет вид:

                          ` у_{1, 2,…, k} = а₀+а₁х₁+а₂х₂+…+а _k х _k,               

где ` у_{1, 2, 3,…, k} – теоретические значения результативного признака, полученные в результате подстановки соответствующих значений факторных признаков в уравнение регрессии;

   х₁, х₂,…, х _k – факторные признаки;

   а₁, а₂,…, а _k – параметры модели (коэффициенты регрессии).

Параметры уравнения могут быть определены графическим методом, методом наименьших квадратов и так далее.

Тогда система нормальных линейных уравнений будет иметь вид:

                     n а₀   + а₁ å х₁ + а₂ å х₂      = å у,

                      а₀ å х₁ + а₁ å х₁² + а₂ å х₁х₂   = å х₁у,

                      а₀ å х₂ + а₁ å х₁х₂ + а₂ å х₂²    = å х₂у.