Шаговые методы построения регрессионных моделей

 

На практике при исследовании объектов и построении регрессионных моделей с несколькими входными переменными используют шаговые (ите- рационные) методы, позволяющие обоснованно включать в модель только наиболее влиятельные и значимые входные факторы. Чаще всего применя- ют метод исключения переменных и метод включения переменных.

Метод исключения переменных состоит из нескольких этапов [12]:

● Этап 1: предлагается регрессионная модель, включающая все ис- следуемые входные переменные.

● Этап 2: рассчитывается частный F -критерий Фишера для каждой вход- ной переменной FXi и оценивается статистическая значимость каждой входной переменной аналогично тому, как это выполняется для модели в целом.

● Этап 3: устанавливается входная переменная с минимальным зна- чением FXi.

● Этап 4: минимальное значение F -критерия сравнивается с гранич-

ным значением.

Если F min > F табл(m, α), то соответствующая входная переменная счи- тается статистически значимой и остается в модели. Следовательно, пред- ложенная на этапе 1 модель статистически значима, адекватна и может быть использована для исследования объекта. Анализ оставшихся входных переменных уже не проводится. Далее рассчитываются коэффициенты регрессии и множественный коэффициент корреляции.

Если F min< F табл, то соответствующая входная переменная статисти- чески незначима и должна быть удалена из модели как неадекватная. Сле- дует помнить, что для многофакторных моделей табличное значение F - критерия зависит еще и от числа входных переменных [9, 12].

● Этап 5: после удаления статистически незначимой входной пере- менной для оставшихся входных переменных снова пересчитываются их частные F-критерии.

● Этап 6: снова устанавливается входная переменная (из оставшихся) с минимальным значением FXi.

● Этап 7: этапы 4, 5, 6 повторяются до тех пор, пока в модели не оста-

нутся только статистически значимые переменные.

Если после выполнения указанных процедур в модели не останется ни одной статистически значимой переменной, то модель построить нель- зя. Скорее всего, причина в просчетах, допущенных при планировании эксперимента на основе анализа априорной информации. В этом случае следует снова внимательно проанализировать априорную информацию, заново спланировать и провести эксперимент и обработать его результаты. Если в модели остаются входные переменные, то переходят к расче-

ту коэффициентов регрессии и оценке точности модели.

Метод включения переменных также состоит из этапов:

● Этап 0: в «модели» нет ни одной входной переменной.

● Этап 1: рассчитывается корреляционная матрица (из частных коэф- фициентов корреляции входных переменных друг с другом и с выходной переменной)

 

é R 1 y

R 11

R 21

R 31

...

Rk 1 ù

ê ú

ê R 2 y

ê R 3 y

R 12

R 13

R 22

R 23

R 32

R 33

...

...

Rk 2 ú

Rk 3 ú,

ê.................. ú

ê ú

ê Rky

R 1 k

R 2 k

R 3 k

...

Rkk ú

ë û

 

где Rky – частный коэффициент корреляции k -й входной переменной и выходной переменной.

Rij – частный коэффициент корреляции i-й и j-й входных переменных

 

(i = 1, k; j = 1, k; i ≠ j).

● Этап 2: выбирается входная переменная с максимальным коэффи- циентом корреляции Riy. Эта переменная первой вводится в модель.

● Этап 3: определяется частный F -критерий введенной входной пе-

ременной, который одновременно является критерием адекватности всей модели.

Если F расч < F табл, то соответствующая входная переменная статисти- чески незначима, т. е. должна быть удалена из модели, а сама модель не- адекватна. Оставшиеся входные переменные имеют с выходной перемен- ной еще менее тесную корреляционную связь. Следовательно, в данной ситуации модель построить не представляется возможным.

Если F расч > F табл(m, α), то соответствующая входная переменная счи- тается статистически значимой и остается в модели.

● Этап 4: корреляционная матрица пересчитывается без учета влия- ния выбранной входной переменной.

● Этап 5: из оставшихся входных переменных выбирается перемен- ная с максимальным коэффициентом корреляции Riy. Эта переменная вво- дится в модель следующей.

● Этап 6: определяется F -критерий новой модели.

Если F расч < F табл, то вновь введенная в модель входная переменная статистически незначима и должна быть удалена из модели как неадекват- ная. В модели остается одна входная переменная.

● Этап 7: процедуры 4, 5, 6 повторяются до тех пор, пока не сформи- руется окончательный вид модели. Дальше переходят к расчету коэффици- ентов регрессии и оценке точности модели.

Сравнивая данные методы, можно сказать следующее:

● Метод исключения входных переменных дает вполне удовлетвори- тельные результаты при моделировании.

● Метод включения входных переменных более экономичен в вычи- слительном аспекте.

Вопросы для самоконтроля

 

1. Что такое многофакторная линейная регрессия?

2. Как оценивается точность многофакторной линейной регрессион- ной модели?

3. Как оценивается адекватность многофакторной линейной регрес- сионной модели?

4. Какие значения может принимать множественный коэффициент корреляции?

5. Что такое нелинейные модели с «внутренней линейностью»?

6. Какие бывают нелинейные модели с «внутренней линейностью»?

7. Что такое нелинейные модели с «внутренней нелинейностью»?

8. Обозначьте основные этапы метода включения переменных.

9. Что такое корреляционная матрица?

10. Что такое частный критерий Фишера для входной переменной? Что он характеризует?

11. Обозначьте основные этапы метода исключения переменных.