Моделі множинної лінійної регресії

Подібні моделі застосовуються у випадку, коли необхідно встановити кількісне співвідношення між результативною ознакою (відгуком) у та певною кількістю незалежних змінних х _j (j= ), що впливають на значення у.

У загальному випадку модель множинної лінійної регресії має вид:

 

(4.1)

 

Щоб краще зрозуміти одержання коефіцієнтів рівняння регресії, розглянемо спочатку просту модель множинної регресії при m=2, тобто

 

 

Для пошуку оптимальних значень а₀; а₁; а₂, скористаємося, як і для парної лінійної регресії, методом найменшого квадрата відхилень (МНК), тобто таким вибором цих коефіцієнтів, що забезпечує мінімум Функціонала:

 

 

де N - кількість експериментальних значень кожного аргументу x_j.

Диференціюючи вказаний функціонал по параметрах моделі зажадаємо, як і раніш, щоб

 

(4.2)

 

Після введення центрованих значень змінних:

 

 

і виконання операції диференціювання з урахуванням формули (одержимо систему 3х рівнянь (тут і далі піде сумування по і від 1 до N):

 

(4.3)

де:

(4.4)

 

Після розрахунку центрованих значень, що входять до формул (4.4), вони використовуються як коефіцієнти системи алгебраїчних рівнянь (4.3). Рішення ж цієї системи відносно невідомих змінних а₀; а₁; а₂, (наприклад за правилом Крамера, або методом Гаусса) дозволяє визначити чисельне значення цих коефіцієнтів регресійної моделі.

Дня зручності та спрощення розрахунків рекомендується звести експериментальні і розрахункові величини в одну таблицю 4.1.

Таблиця 4.1Таблиця для розрахунку коефіцієнтів рівняння множинної регресії.

№ даних	yi	x1i	x2i			x1i∙ x2i	x1i∙ yi	x2i∙ yi
	y1	x11	x21			x11∙ x21	x11∙ y1	x21∙ y1
	y2	x12	x22			x12∙ x22	x12∙ y2	x22∙ y2
……	…….	…….	…….	…….	…….	…….	…….	…….
N	yN	x1N	x2N			x1N∙ x2N	x1N∙ yN	x2N∙ yN
Суми
Сер.знач.				…….	…….	…….	…….	…….
	…….	…….	…….
К-ти рівн. (4.3)

 

Спочатку розраховуються суми стовпчиків, потім для перших трьох стовпчиків розраховуються середні значення шляхом розподілу на N відповідних сум (третій з низу рядок). Отримані середні значення ; ; - використовуються в рядку розрахункових значень (другий з низу рядок). Потім з отриманих у четвертому з низу рядку сум віднімаються відповідні розрахункові значення. Отримані різниці заносяться в останній рядок таблиці 4.1 і використовуються як коефіцієнти системи алгебраїчних рівнянь (4.3).

Відзначимо, що коефіцієнти а₁ і а₂ у рівнянні лінійної множинної регресії називаються частковими (іноді чистими) коефіцієнтами регресії по x₁ і по х₂, які відображають вплив тільки відповідної змінної. Якщо ми досліджуємо тільки вплив x₁ на у за допомогою рівняння y=a₀+a₁ x_1і зневажаючи впливом х₂, то коефіцієнт а₁ у цьому рівнянні називається - повним коефіцієнтом регресії у по х₁ і чисельно не дорівнює частковому коефіцієнтові а_і у рівнянні лінійної множинної регресії, тому що враховує також і непрямий вплив неврахованої змінної х₂.

У випадку побудови моделі з трьома і більш незалежними змінними можливе, в принципі, використання допоміжних таблиць, аналогічних

таблиці 4.1, з відповідним збільшенням числа стовпців. Однак в даний час при т≥ 3 ручний метод підрахунку практично не використовується через значне зростання обсягу обчислень. Набагато простіше доручити цю роботу ЕОМ, що має у своєму програмному забезпеченні комплекси стандартних програм кореляційного та регресійного аналізу даних експерименту.

Розглянемо найбільш загальний випадок множинної лінійної регресії з т незалежними перемінними х_j (j = ), що має наступний вигляд:

 

(4.5)

 

Нехай необхідно визначити значення коефіцієнтів регресійного рівняння. Для цього проведемо заміну натуральних зміни (у_і та х_ij (j = ); i = ) на нормовані змінні:

 

(4.6)

 

Очевидно, що для нормованих змінних .

Виходячи з того, що

 

 

Рівняння (4.5) можна представити у вигляді:

 

(4.7)

 

Враховуючи , для варіацій у відносно в нормованих змінних матимемо:

 

(4.8)

 

При цьому вільний член нормованого рівняння множинної регресії а₀=0

Коефіцієнти рівняння (4.8) знаходимо, як завжди, з умови мінімізації середньої квадратичної похибки, тобто із застосуванням методу найменших квадратів (МНК):

 

 

де - розрахункове значення нормованої змінної.

Взявши відповідні похідні та прирівнявши їх до нуля:

 

 

і враховуючи, що

 

(4.9)

 

де є нормований коефіцієнт кореляції між х_j та х_к,

отримаємо систему т рівнянь, аналогічну системі (4.3), яка була записана лише для двох незалежних змінних а₁ та а₂:

 

(4.10)

 

де () - нормований коефіцієнт кореляції між у та x_j;

r_jk (k = ) - нормований коефіцієнт кореляції між x _j та х_k з числа решти змінних, що залишилися.

Розв'язання системи (4.10) відносно a_j () проведемо, наприклад, за допомогою правила Крамера:

 

де

 

- головний визначник системи, - визначник Крамера, який отриманий з головного визначника шляхом заміни j -го стовпчика на стовпчик . Відмітимо, що значення та r_jk легко знаходяться з експериментальних даних за допомогою (4.6; 4.9).

Після визначення а_j знаходимо по (4.8)

 

 

Потім, після визначення а_j, знаходимо а₀:

 

Таким чином знайдено коефіцієнти множинної регресії, які входять до формули (4.5).