Розділ 7. Взаємозв'язки між групами: кореляційно-регресійний аналіз

Кореляційний аналіз

Кореляційний аналіз – метод дослідження взаємозалежності ознак у генеральній сукупності, які є випадковими величинами з нормальним характером розподілу. Основними вимогами до застосування кореляційного аналізу є достатня кількість спостережень, сукупності факторних і результативних показників, а також їх кількісний вимір і відображення в інформаційних джерелах. Застосування кореляційного аналізу тісно пов'язане з регресійним аналізом, тому його часто називають кореляційно-регресійним. Головними завданнями кореляційного аналізу є:

– визначення наявності та форми зв'язку;

– вимірювання щільності (сили) зв'язку;

– виявлення впливу факторів на результативну ознаку.

Напрямок та сила взаємозв’язку між ознаками відображаються у математичному показнику, який називається коефіцієнтом кореляції r. Для оцінки лінійного зв’язку між двома кількісними ознаками з нормальним розподілом застосовують коефіцієнт кореляції Пірсона. У випадку асиметричного розподілу даних застосовується коефіцієнт рангової кореляції Спірмена. Його використовують також у тому випадку, коли між ознаками можливий нелінійний зв’язок.

Проте в біохімічних та інших біологічних дослідженнях найчастіше використовують саме коефіцієнт кореляції Пірсона, який ми опишемо детальніше.

В таблиці 23 та на рисунку 6 показано умовну відповідність між величиною коефіцієнту кореляції і тіснотою зв'язку (так звана «шкала Чеддока», складена американським математиком Робертом Е. Чеддоком). Як бачимо тільки при r=1 зв’язок між досліджуваними ознаками є функціональним, який описується лінійним рівнянням (див. рис. 6).

 

Таблиця 23. Величина коефіцієнту кореляції і тіснота зв'язку за «шкалою Чеддока»

Коефіцієнт кореляції	Тіснота зв'язку	Англійський відповідник
1,00	Зв'язок функціональний	Functional relationship
0,90 – 0,99	Дуже сильний	Very strong
0,70 – 0,89	Сильний	Strong
0,50 – 0,69	Значний	Significant
0,30 – 0,49	Помірний	Moderate
0,10 – 0,29	Слабкий	Weak
0,00	Зв'язок відсутній	Relationship is absent

 

В біології, а особливо, в медицині, умовно прийнято вважати наявність кореляційного взаємозв’язку між досліджуваними ознаками, тільки в тому випадку, коли коефіцієнт кореляції є не меншим за 0,7 (тобто «сильна» і «дуже сильна» кореляція за «шкалою Чеддока»).

Кореляційні зв'язки можна вивчати на якісному рівні з діаграм розсіяння емпіричних значень змінних X і Y (рис. 6) і відповідним чином їх інтерпретувати. Так, наприклад, якщо підвищення рівня однієї змінної супроводжується підвищенням рівня іншої, то йдеться про позитивну кореляцію або прямий зв'язок ( рис. 6а, б). Якщо ж зростання однієї змінної супроводжується зниженням значень іншої, то маємо справу з негативною кореляцією або зворотним зв'язком ( рис. 6г, ґ). Нульовою називається кореляція за відсутності зв'язку між змінними ( рис. 6в). Проте нульова загальна кореляція може свідчити лише про відсутність лінійної залежності, а не взагалі про відсутність будь якого статистичного зв'язку.

Коефіцієнт кореляції r для вибірки є точковою оцінкою генерального коефіцієнту кореляції – параметру ρ. Як для будь-якої випадкової величини, значення r може змінюватись при повторних дослідженнях вибірок, взятих з тієї самої генеральної сукупності. Тому коефіцієнт кореляції для вибірки має статистичну помилку, яку можна обчислити за формулою:

(69),

де s_r – статистична помилка вибіркового коефіцієнту кореляції, r – вибірковий коефіцієнт кореляції, n – число вивчених об’єктів, в яких поміряні дві ознаки.

Довірчий інтервал для коефіцієнту кореляції двох ознак, які розподіляються нормально буде охоплювати:

r – ts_r ≤ ρ ≤ r + ts_r (70),

де r – ts_r – нижня, r + ts_r – верхня межа довірчого інтервалу.

При аналізі зв’язку перевіряється нульова гіпотеза: в генеральній сукупності зв’язок між ознаками відсутній (Н₀: ρ = 0). При нормальному розподілі обох ознак, для перевірки нульової гіпотези використовують критерій Стьюдента t: t = r / s_r, де r – коефіцієнт кореляції, s_r – статистична помилка коефіцієнта кореляції. Розрахований критерій порівнюють з табличним при числі ступенів свободи df = n – 2.

Рис 6. Діаграми розсіяння емпіричних значень змінних X і У:

а) зв’язок описується рівнянням y=ax+b, де a – ордината у точці перетину лінії регресії з віссю ординат, а b – тангенс кута нахилу лінії регресії до вісі абсцис; б) сильна позитивна кореляція; в) нульова кореляція (кореляція відсутня); г) помірна негативна кореляція; ґ) зв’язок описується рівнянням y=ax+b; д) нелінійна кореляція.

 

Основними етапами кореляційного аналізу є наступні:

1. Оформляємо отримані нами дані за двома ознаками у вигляді таблиці:

	x i	y i			()()	()^2	()^2
Сума
Середні значення

 

2. Підставимо отримані дані з вказаної вище таблиці в наступну формулу:

(71)

3. Отримавши коефіцієнт кореляції r перевіряємо його статистичну значущість за допомогою t критерію Стьюдента. При цьому висувається гіпотеза про те, що r=0:

(72)

Якщо обчислене значення t_p>t_кр (таблиця 1) при рівні статистичної значущості p<0,05 і певному числі ступенів свободи (df=n-2), то гіпотеза про відсутність зв’язків між ознаками (r=0) відкидається.

4. Беручи до уваги результати обчислень із таблиці, враховуючи знак коефіцієнта кореляції та тісноту зв’язку за таблицею 23, можна говорити про взаємозв’язки між досліджуваними ознаками.

5. Для лінійної залежності коефіцієнт детермінації рівний квадрату коефіцієнту кореляції:

R²=r² (73),

де r – коефіцієнт кореляції.

Даний показник вказує наскільки зміни величини Х приводять до змін величини У. Так, при r = 0,9 близько 81% (0,9² × 100% ≈ 81%) змін однієї ознаки визначається змінами іншої, в 19% випадків співпадіння чи неспівпадіння варіацій двох ознак є чисто випадковими.

Приклад 26. За наведеними даними потрібно вказати на наявність чи відсутність взаємозв’язків між активністю лактатдегідрогенази (X_i) та вмістом лактату (У_і) в плазмі крові карася сріблястого:

X_i: 6,28; 6,89; 7,34; 7,92; 8,26; 8,74; 8,39; 8,34; 8,74; 9,72; 14,0; 15,6; 17,7; 18,5; 20,1; 22,9; 24,8; 31,3; 36,2; 39,9.

Y_i: 5,11; 5,82; 6,96; 7,39; 7,07; 7,73; 7,81; 7,56; 8,00; 8,45; 8,77; 9,01; 9,13; 9,45; 9,77; 10,1; 10,6; 10,8; 11,3; 12,4.

1. Оформляємо отримані нами дані за двома ознаками у вигляді таблиці:

	Xi	Yi			()()	()^2	()^2
6,28	5,11	-9,80	-3,55	34,79	96,04	12,60
6,89	5,82	-9,19	-2,84	26,10	84,46	8,07
7,34	6,96	-8,74	-1,70	14,86	76,39	2,89
7,92	7,39	-8,16	-1,27	10,36	66,59	1,61
8,26	7,07	-7,82	-1,59	12,43	61,15	2,53
8,74	7,73	-7,34	-0,93	6,82	53,88	0,86
8,39	7,81	-7,69	-0,85	6,54	59,14	0,72
8,34	7,56	-7,74	-1,10	8,51	59,91	1,21
8,74	8,00	-7,34	-0,66	4,84	53,88	0,44
9,72	8,45	-6,36	-0,21	1,34	40,45	0,04
14,0	8,77	-2,08	0,11	-0,23	4,33	0,01
15,6	9,01	-0,48	0,35	-0,17	0,23	0,12
17,7	9,13	1,62	0,47	0,76	2,62	0,22
18,5	9,45	2,42	0,79	1,91	5,86	0,62
20,1	9,77	4,02	1,11	4,46	16,16	1,23
22,9	10,1	6,82	1,44	9,82	46,51	2,07
24,8	10,6	8,72	1,94	16,92	76,04	3,76
31,3	10,8	15,2	2,14	32,53	231,0	4,58
36,2	11,3	20,1	2,64	53,06	404,0	6,97
39,9	12,4	23,8	3,74	89,01	566,4	13,99
Сума	321,6	173,2			334,7		64,54
Сер.знач.	16,08	8,66

 

2. Обчислюємо коефіцієнт кореляції за формулою (71):

3. За формулою (72) перевіряємо статистичну значущість коефіцієнта кореляції r за допомогою t критерію Стьюдента:

Число ступенів свободи в даному випадку: df=n–2=20–2=28. Знаходимо t_0,05 по таблиці 1 для визначення критерію Стьюдента. Умова t_r>t_0,05, оскільки 10,73>2,10. Тому між даними спостерігається дуже сильна позитивна кореляція, достовірна при рівні статистичної значущості p<0,05.

4. Обчислюємо за формулою (73) коефіцієнт детермінації:

R²=0,93²=0,86

Отже, за результатами кореляційного аналізу можна зробити висновок про те, що взаємозв’язок між активністю лактатдегідрогенази і вмістом лактату за напрямком – пряма, за тіснотою (таблиця 23) – дуже сильна, проте наочно за формою графіка важко визначити форму цієї залежності (див. рис. 7).

Рис. 7. Кореляційне поле залежності активності лактатдегідрогенази і вмісту лактату в плазмі крові карася сріблястого

 

Тому в наступному підрозділі визначимо вид регресії, яка найбільш адекватно описує цю залежність.

 

Парний регресійний аналіз

Коефіцієнт кореляції вказує лишень на ступінь зв’язку у варіації двох змінних величин. Проте він не дає змогу судити про те, як кількісно змінюється одна величина при зміні іншої. Для цього існує інший метод – це метод регресії.

Цей аналіз можна використовувати для виявлення взаємозв’язку між фактором, що впливає на об’єкт (Х), і параметром, що змінюється (У).

Розрізняють лінійні і нелінійні регресії.

Рівняння лінійної парної регресії наступне:

(74),

де у – значення параметру Y;

а – вільний член;

b – коефіцієнт регресії;

х – незалежна змінна;

– помилка апроксимації.

При центрованості помилок вільний член а можна визначити за формулою:

(75),

де і – середні значення фактору Х і параметру Y у вибірках з n спостережень.

Коефіцієнт регресії b обчислюють за формулами (76) або (77):

(76)

(77).

Нелінійний взаємозв’язок між даними може описуватись різними функціями:

Гіперболічною: (78);

Показниковою: (79);

Напівлогарифмічною: (80);

Логарифмічною: (81);

Степеневою: (82);

Е кспоненційною: (83);

Зворотньою: (84);

Параболічною (Поліноміальна модель другого порядку):

y = ax² + bx + c (85);

Кубічною (Поліноміальна модель третього порядку):

y = ax³ + bx² + cx + d (86)

 

і поліноміальними моделями вищих порядків.

 

Часто перед дослідниками постає ряд питань, а саме: яке рівняння регресії використати для опису своїх даних, яке з них найбільш адекватно описує дані з найменшими похибками і помилками та ін.? Тому в даній роботі ми зупинимось на обчисленні коефіцієнтів a і b для різних рівнянь, порівнянні рівнянь між собою, виборі оптимального виду рівняння регресії, обчисленні похибок та помилок цих рівнянь.

Вирішення завдання побудови якісного рівняння регресії, що відповідає емпіричним даним і меті дослідження, є достатньо складним і багатоступеневим процесом. Його можна розбити на три етапи:

1) вибір формули рівняння регресії;

2) визначення параметрів вибраного рівняння;

3) аналіз якості рівняння і перевірка його адекватності емпіричним даним.

Вибір формули, зазвичай, здійснюється за графіком реальних статистичних даних у вигляді точок в декартовій системі координат (діаграма розсіювання). Проте нерідко виникають ситуації, коли розміщення точок приблизно відповідає декільком функціям і необхідно вибрати з них найкращу. На практиці невідомо, яка модель вірна, і часто підбирають таку модель, яка найбільше відповідає реальним даним. Ознаками «доброї» моделі є:

1. Простота. Модель повинна бути максимально простою. Дана властивість визначається тим фактом, що модель не відображає дійсність ідеально, а є її спрощенням.

2. Максимальна відповідність. Рівняння тим краще, чим більшу частину діапазону залежної змінної воно може пояснити.

3. Прогнозні якості. Модель може бути визнана якісною, якщо отримані на її основі прогнози підтверджуються реальністю.

Для обчислення коефіцієнтів регресійних рівнянь рекомендується використовувати метод найменших квадратів (МНК), який був запропонований на початку ХІХ ст. Лежандром і Гауссом. Вимога МНК заключається в тому, що теоретичні дані лінії регресії у повинні бути отримані таким чином, щоб сума квадратів відхилень від цих даних емпіричних величин даних була мінімальною, тобто:

Σ(Y_i – Y_x)² → min (87)

Основні етапи обчислень:

1. Знаходимокоефіцієнти рівнянь регресії

1.1. Рівняння лінійної регресії

Для обчислення коефіцієнтів a і b рівняння лінійної регресії (74) необхідно розв’язати нормальні рівняння методу найменших квадратів:

(88)

Із цієї системи можна знайти коефіцієнти а і b:

a = (Σ y_i Σ(x_i)² – Σ y_i x_i Σ x_i)/(n Σ(x_i)² – (Σ x_i)²) (89) ,

b = (n Σ y_i x_i – Σ x_i Σ y_i) / (n Σ(x_i)² – (Σ x_i)²) (90) .

1.2. Лінійне рівняння з логарифмуванням факторної ознаки (напівлогарифмічне)

Для обчислення коефіцієнтів a і b рівняння прямої з логарифмуванням факторної ознаки (80) необхідно розв’язати наступну систему рівнянь:

(91).

Із цієї системи можна знайти коефіцієнти а і b:

a = (Σ y_i Σ(ln x_i)² – Σ y_i ln x_i Σ ln x_i)/(n Σ(ln x_i)² – (Σ ln x_i)² ) (92),

b = (n Σ y_i ln x_i – Σ ln x_i Σ y_i) / (n Σ(ln x_i)² – (Σ ln x_i)² (93).

1.3. Лінійне рівняння з логарифмуванням ознак (логарифмічне)

Для обчислення коефіцієнтів a і b рівняння прямої з логарифмуванням факторної ознаки (81) необхідно розв’язати наступну систему рівнянь:

(94).

Із цієї системи можна знайти коефіцієнти а і b:

a = (Σ lny_i Σ(ln x_i)² – Σ lny_i ln x_i Σ ln x_i)/(n Σ(ln x_i)² – (Σ ln x_i)² ) (95),

b = (n Σln y_i ln x_i – Σ ln x_i Σln y_i) / (n Σ(ln x_i)² – (Σ ln x_i)² (96).

1.4. Рівняння гіперболічної регресії

Нормальні рівняння методу найменших квадратів для гіперболи (78) такі:

(97)

Результатом обчислення системи нормальних рівнянь є наступні рівняння:

a = (Σ y_i Σ(1/x_i) ² – Σ(y_i / x_i) Σ(1/x_i)) / n Σ(1/x_i) ²- (Σ(1/x_i))² (98),

b = n Σ(y_i / x_i) - Σ(1/x_i) Σ y_i / n Σ(1/x_i) ²- (Σ(1/x_i))² (99).

1.5. Рівняння показникової кривої

Для обчислення коефіцієнтів a і b рівняння (79) необхідно розв’язати наступну систему рівнянь:

(100)

Із цієї системи можна знайти коефіцієнти а і b:

ln a = (Σ ln y_i Σ x_i² – Σ x_i ln y_i Σ x_i) / (n Σ x_i² – (Σ x_i)²) (101),

ln b = (n Σ x_i ln y_i–Σ x_i Σ ln y_i) / (n Σ x_i² – (Σ x_i)²) (102).

1.6. Рівняння параболічної регресії

Для обчислення коефіцієнтів a, b і с рівняння (85) необхідно розв’язати наступну систему рівнянь:

(103)

2. Перевірку значущості параметрів рівняння регресії в цілому проводимо на основі обчислень величини середньої помилки апроксимації :

(104)

де y_i – емпіричне значення результативної ознаки (результативною називається ознака, яка змінюється під впливом факторної ознаки);

y_x – теоретичне значення результативної ознаки.

Значення середньої помилки апроксимації не має перевищувати 10-15%.

3. Перевірку адекватності регресійної моделі можна провести за допомогою кореляційного аналізу. Тісноту кореляційного зв’язку між x і y визначається за допомогою теоретичного кореляційного відношення (індекс кореляції) з рівнянь (105) або (106):

(105)

(106)

Підкореневий вираз – коефіцієнт детермінації (відповідно до формули (73) його значення під час обчислень потрібно помножити на 100%) – показує долю варіації результативної ознаки (у) під впливом варіації ознаки-фактору (х).

Теоретичне кореляційне відношення може знаходитися в межах від 0 до 1. Чим ближче кореляційне відношення до 1, тим тісніший зв’язок між ознаками.

4. Коли декілька рівнянь адекватно прогнозують значення, то в такому випадку найбільш підходящим рівнянням регресії є те, яке характеризується найбільшим фактичним значенням F-критерію Фішера, який обчислюють за формулою:

F _ф = S _y² / S ²_зал (107),

де

S _y² = (Σy_i² – ((Σy_i)² / n)) / n – 1 (108),

S ²_зал = Σ(y_i – y_x)²/ (n – 2) (109).

5. Обчислюємо похибки і помилки, оскільки, чим менші величини похибок і помилок, тим надійніше рівняння описує досліджуваний взаємозв'язок.

Абсолютну похибку рівнянь (δ) обчислюємо за формулою:

(110).

Відносну похибку рівнянь (Δ) знаходимо за формулою:

(111).

Також обчислюємо систематичну (o_p) і випадкову помилки (o_δ):

o_p = (1/n)Σ((y_i – y_x)/y_x) × 100 (112),

(113).

6. На основі фактичних значень F -критерію Фішера, похибок та помилок робимо загальний висновок про адекватність того чи іншого рівняння регресії.

Приклад 27. За наведеними даними (приклад 26) потрібно встановити: форму зв’язку між активністю лактатдегідрогенази (X_i) та вмістом лактату (У_і) в плазмі крові карася сріблястого, параметри рівняння регресії та тісноту взаємозв’язку.

1. За методом найменших квадратів знаходимо коефіцієнти а і b вірогідних типів рівнянь регресії, будуємо графіки рівнянь регресії та здійснюємо перевірку значущості рівняння регресії.

Рівняння лінійної регресії

1.1.1. Формуємо таблицю з первинних даних та обчислень допоміжних величин для обчислення коефіцієнтів a і b даного рівняння:

АЛДГ	Лактат	(xi)^2	yi xі	Y x	yi–yx	(yi–yx)^2	yi^2
Xi	Yi
6,28	5,11	39,438	32,091	7,027	-1,917	3,673	26,112
6,89	5,82	47,472	40,100	7,128	-1,308	1,712	33,872
7,34	6,96	53,876	51,086	7,203	-0,243	0,059	48,442
7,92	7,39	62,726	58,529	7,300	0,090	0,008	54,612
8,26	7,07	68,228	58,398	7,357	-0,287	0,082	49,985
8,74	7,73	76,388	67,560	7,437	0,293	0,086	59,753
8,39	7,81	70,392	65,526	7,379	0,431	0,186	60,996
8,34	7,56	69,556	63,050	7,370	0,190	0,036	57,154
8,74	8,00	76,388	69,920	7,437	0,563	0,317	64,000
9,72	8,45	94,478	82,134	7,600	0,850	0,722	71,403
14,0	8,77	196,000	122,78	8,314	0,456	0,208	76,913
15,6	9,01	243,360	140,56	8,581	0,429	0,184	81,180
17,7	9,13	313,290	161,60	8,931	0,199	0,039	83,357
18,5	9,45	342,250	174,83	9,065	0,385	0,148	89,303
20,1	9,77	404,010	196,38	9,332	0,438	0,192	95,453
22,9	10,1	524,410	231,29	9,799	0,301	0,091	102,01
24,8	10,6	615,040	262,88	10,116	0,484	0,235	112,36
31,3	10,8	979,690	338,04	11,200	-0,400	0,160	116,64
36,2	11,3	1310,44	409,06	12,017	-0,717	0,514	127,69
39,9	12,4	1592,01	494,76	12,634	-0,234	0,055	153,76
Σ xi	Σ yi	Σ(xi)^2	Σ yi xi	Σ yx	Σ(yi–yx)	Σ (yi–yx)^2	Σ yi^2
321,62	173,23	7179,441	3120,564	173,228	0,001784	8,708	1565,0

 

За допомогою вказаної вище таблиці та формул (89) і (90) отримуємо коефіцієнти регресії:

a = 5,9791,

b = 0,1668.

Тоді рівняння регресії матиме наступний вигляд:

y = 0,167 x + 5,979

1.1.2. За формулою (104) обчислюємо величину середньої помилки апроксимації :

Отже, апроксимація даних наведеним вище рівнянням регресії є статистично значущою, оскільки 6,89 < 15%.

1.1.3. За допомогою формул (106) і (73) обчислюємо величини індексу кореляції та коефіцієнту детермінації:

R²=0,93² ×100% =86%

1.1.4 За формулою (107) обчислюємо фактичне значення F-критерію Фішера. При цьому порівнюємо загальну дисперсію S_y² (108) із залишковою S²_зал (109).

S _y² = (1565,0– 1500,43) / 19 = 3,3984.

S ²_зал = 8,708 / 18 = 0,4838,

Тоді за формулою (107):

F _ф = 3,3984 / 0,4838 = 7,02.

Рис. 8. Лінійна регресія

 

При рівні статистичної значущості Р=0,05 F_ф>F_кр =2,22. Тому лінійне рівняння регресії адекватно описує фактичний взаємозв’язок між вмістом лактату і активністю ЛДГ. При цьому значення F_ф=7,02 вказує на те, що рівняння лінії в сім разів краще описує даний взаємозв’язок, ніж середнє значення залежної змінної.

Отже, за результатами регресійного аналізу можна зробити висновок про те, що отримане лінійне рівняння, якеза експериментальними даними має вигляд: y = 0,167 x + 5,979 (Рис. 8: пряма лінія) в 7,02 рази краще описує зміни залежної змінної (вміст лактату), ніж середнє значення аргументу.