Крокові методи побудови регресійних моделей

 

На практиці при дослідженні об’єктів і побудові регресійних моделей з кількома вхідними змінними використовують крокові (ітераційні) методи, що дозволяють обґрунтовано включати в модель тільки найбільш впливові і значущі вхідні фактори. Найчастіше застосовують метод виключення змінних і метод включення змінних.

Метод виключення змінних складається з декількох етапів [12]:

Етап 1 -пропонується регресійна модель, що включає всі досліджувані вхідні змінні.

Етап 2 - розраховується приватний F -критерій Фішера для кожної вхідної змінної F_Xi і оцінюється статистична значимість кожної вхідної змінної аналогічно тому, як це виконується для моделі в цілому.

Етап 3 -встановлюється вхідні змінна з мінімальним значенням F_Xi.

Етап 4 - мінімальне значення F -критерію порівнюється з граничним значенням.

Якщо F _min > F _табл (m, α), то відповідна вхідні змінна вважається статистично значущою і залишається в моделі. Відповідно, запропонована на етапі 1 модель статистично значуща, адекватна і може бути використана для дослідження об’єкта. Аналіз вхідних змінних, які залишилися вже не проводиться. Далі розраховуються коефіцієнти регресії і множинний коефіцієнт кореляції.

Якщо F _min < F _табл,, то відповідно вхідна змінна статистично незначуща і повинна бути вилучена з моделі, як неадекватна. Слід пам’ятати, що для багатофакторних моделей табличне значення F -критерію залежить ще і від числа вхідних змінних [9, 12].

Етап 5 - після видалення статистично незначною вхідної змінної для решти вхідних змінних знову перераховуються їх приватні F -критерії.

Етап 6 - знову встановлюється вхідна змінна (з решти) з мінімальним значенням F_Xi.

Етап 7 - етапи 4, 5, 6 повторюються до тих пір, поки в моделі не залишаться тільки статистично значущі змінні.

Якщо після виконання зазначених процедур в моделі не залишиться жодної статистично значущої змінної, то модель побудувати не можна. Швидше за все, причина в прорахунках, допущених при плануванні експерименту на основі аналізу апріорної інформації. В цьому випадку слід знову уважно проаналізувати апріорну інформацію, заново спланувати і провести експеримент і обробити його результати.

Якщо в моделі залишаються вхідні змінні, то переходять до розрахунку коефіцієнтів регресії і оцінки точності моделі.

Метод включення змінних також складається з етапів:

Етап 0 - в «моделі» немає жодної вхідної змінної.

Етап 1 - розраховується кореляційна матриця (з приватних коефіцієнтів кореляції вхідних змінних один з одним і з вихідної змінної)

 

 

де R_ky – приватний коефіцієнт кореляції k-й вхідний змінної та вихідної змінної.

R_ij – приватний коефіцієнт кореляції i-й і j-й вхідних змінних (; ; i ≠ j).

Етап 2 -вибирається вхідна змінна з максимальним коефіцієнтом кореляції R_iy. Ця змінна першої вводиться в модель.

Етап 3 - визначається приватний F -критерій введеної вхідної змінної, який одночасно є критерієм адекватності всієї моделі.

Якщо F _розр < F _табл, то відповідна вхідні змінна статистично незначуща, тобто має бути видалена з моделі, а сама модель неадекватна. Решта вхідних змінних мають з вихідною змінною ще менш тісний кореляційний зв’язок. Відповідно, в даній ситуації модель побудувати неможливо.

Якщо F _расч > F _табл (m, α), то відповідна вхідна змінна вважається статистично значущою і залишається в моделі.

Етап 4 - кореляційна матриця перераховується безврахування впливу обраної вхідної змінної.

Етап 5 - з решти вхідних змінних вибирається змінна з максимальним коефіцієнтом кореляції R_xy. Ця змінна вводиться в модель наступної.

Етап 6 - визначається F -критерій нової моделі.

Якщо F _розр < F _табл, то знову введену в модель вхідна змінна статистично незначуща і повинна бути вилучена з моделі як неадекватна. У моделі залишається одна вхідна змінна.

Етап 7 -процедури 4, 5, 6 повторюються до тих пір, поки не сформується остаточний вигляд моделі. Далі переходять до розрахунку коефіцієнтів регресії і оцінки точності моделі.

Порівнюючи дані методи, можна сказати наступне:

● Метод виключення вхідних змінних дає цілком задовільний результати при моделюванні.

● Метод включення вхідних змінних більш економічний в обчислювальному аспекті.

 

Питання для самоконтролю

 

1. Що таке багатофакторна лінійна регресія?

2. Як оцінюється точність багатофакторної лінійної регресійної моделі?

3. Як оцінюється адекватність багатофакторної лінійної регресійної моделі?

4. Які значення може приймати множинний коефіцієнт кореляції?

5. Що таке нелінійні моделі з «внутрішньої лінійністю»?

6. Які бувають нелінійні моделі з «внутрішньої лінійністю»?

7. Що таке нелінійні моделі з «внутрішньої нелінійністю»?

8. Позначте основні етапи методу включення змінних.

9. Що таке кореляційний матриця?

10. Що таке приватний критерій Фішера для вхідної змінної? Що він характеризує?

11. Позначте основні етапи методу виключення змінних.