Метод найменших квадратів (МНК)

Сутність методу полягає у виборі таких значень параметрів моделі коефіцієнтів), при яких сума квадратів відхилення експериментальних значень залежної змінної у_і(х_ji) від відповідних розрахункових значень , де m - число незалежних факторів, що включені в модель (х_j); N - число експериментальних значень кожного з цих фактор що беруть участь у побудові регресійної моделі.

Іншими словами, метод найменших квадратів забезпечує вибір так параметрів моделі, у(х_j); (j = ;), при яких забезпечується мінімум наступного функціоналу:

 

(2.11)

 

В цьому випадку дисперсія похибки моделі визначається величиною:

 

(2.12)

 

і служить статистичною оцінкою точності отриманої моделі.

Особливістю регресійних моделей є те, що дослідник включає до розгляду лише найбільш значущі фактори. Фактори, що мають незначний вплив на величину функції відгуку (у) взагалі не розглядаються (тобто їхнім впливом зневажають).

Тому загальну дисперсію коливань відгуку у відносно його середнього значення

 

(2.13)

 

розглядають як суму двох дисперсій:

- факторної дисперсії D , що викликана впливом факторів, включених до моделі. Ця дисперсія зазвичай визначається за допомогою формули:

 

(2.14)

 

що оцінює розсіювання розрахункових значень відносно ;

- залишкової дисперсії D_ε, що оцінює розсіювання експериментальних даних відносно розрахункових даних моделі , яка характеризує, по суті, статистичну похибку моделі

 

(2.15)

З у рахуванням сказаного можна записати:

 

(2.16)

Відношення

(2.17)

 

що характеризує долю дисперсії у, обумовлену впливом лише врахованих факторів, у загальній дисперсії , називається коефіцієнтом детермінації (для нелінійних моделей - індексом детермінації).

Поділивши (2.16) на отримаємо вираз для K_D у вигляді:

 

(2.18)

Величина

(2.19)

 

носить назву коефіцієнта кореляції (для нелінійних моделей – індекса кореляції). Ця величина характеризує щільність зв'язку між відгуком у і незалежними факторами, що включені до моделі. Практично приймається, що якщо R≥0,7, то така модель достатньо повно відображає вплив цих факторів (оскільки k_d = R²≥0,49, що свідчить про те, що більше 49%змінності у обумовлено саме включеними у модель змінними x_j.

При R<0,7 можна стверджувати, що модель є неповною недостатньо характеризує вплив збурень х_j (j=1..к), що мають місце, на відгук у. Це означає, що деякі важливі і значущі фактори не включені до моделі).

Визначення тісноти зв'язку в регресійному аналізі можливо також із застосуванням так званого критерію Фішера, який визначається за допомогою формули [16]:

 

(2.20)

 

де n - кількість даних, що використовується при одержанні рівняння регресії;

m - кількість статистичних характеристик даних експерименту, що застосовуються при визначенні рівняння регресії; а - характеристик рівня неістотності кореляційного зв'язку (зазвичай приймають а =0,05).

Після розрахунку F^евоно порівнюється з критичним значенням наводиться в таблицях значень F-критерію в будь-якій літературі по статистиці (наприклад в [16]). Якщо , то вважається, що кореляційний зв'язок між змінними в рівнянні регресії є істотним.