Статистическая обработка данных

 

Измерения являются основной частью любого эксперимента. От тщательности измерений и последующих вычислений зависят его результаты. Основными статистическими характеристиками количественной изменчивости являются: среднее арифметическое (), среднее квадратичное или стандартное отклонение (σ), средняя квадратичная ошибка S_x, нормированное отклонение t, по которому определяют достоверность различий между сравниваемыми вариантами.

Среднее арифметическое определяется по формуле:

, (1)

где – сумма значений каждой повторности, Xi – значение каждой повторности, n – объем выборки.

 

Среднее квадратичное отклонение (σ) позволяет установить пределы возможных вариаций средних арифметических двух сравниваемых групп (вариантов):

 

(2)

 

где n – число повторностей в варианте; n – 1 – число степеней свободы (обозначается также буквами df); – среднее арифметическое значение, X_i – значения каждой повторности; – сумма квадратов отклонений.

Таблица 1. Расчетные статистические параметры

N

 

Обычно, чем больше объем выборки, т.е. n, тем выше точность определения средней арифметической и меньше размах ее колебаний. При n > 30 с учетом принятой в биологических экспериментах ошибки 5% средние арифметические выборочных совокупностей (вариантов) будут находиться в пределах ± 2,58σ. Если эта разница превышает произведение σ, установленной для каждого варианта, на 2,58, то она достоверна.

Достоверность разницы между средними арифметическими двух выборочных совокупностей можно установить не только путем нахождения границ их вариаций для двух сравниваемых групп ±σ_I и ±σ_II, но и пользуясь значением средней квадратичной ошибки , которую рассчитывают по формуле:

 

(3).

 

Значение σ находят по формуле (2). Рассчитав среднюю квадратическую ошибку для одной () и другой () сравниваемых групп, определяют среднюю ошибку разницы (S_d) по формуле:

 

 

(4).

 

Затем находят разницу между средними арифметическими этих двух групп:

 

Значения разницы между средними арифметическими помещают в таблицу и справа от них записывают величины средних ошибок разницы (d±S_d). Если разница будет превышать ошибку в 2,58 раза, т.е. d > 2.58 S_d, то она достоверна с высокой степенью вероятности.

Однако следует помнить, что данный способ определения достоверности различий между средними арифметическими выборочных совокупностей справедлив только при n> 30. В физиологических же опытах, как правило, повторность бывает 3–5-кратной, т.е. n< 30, и поэтому ошибку разницы рассчитывают по другой формуле:

 

 

(5).

 

Сумму квадратов отклонений для вариантов I и II, представленных в данной формуле, легко вычислить по образцу таблицы 1. Определив ошибку разницы (S_d) и разницу между средними арифметическими двух сравниваемых групп (d), находим величину t, называемую нормированным отклонением:

 

(6).

 

Теперь легко определить достоверность разницы между двумя вариантами. Для этого полученное фактическое значение t_факт сравниваем с найденным по таблице 2 значением t_табл надо знать число степеней свободы – df и принять необходимый уровень значимости (обычно при ошибке 5% он равен 0,05). Если окажется, что t_факт< t_табл, то разница между средними параметрами вариантов опыта ( и ) – недостоверна, если же t_факт> t_табл, то разница достоверна.

 

Таблица 2. Значение t при различных уровнях значимости (Р)

Число степеней свободы	Уровень значимости Р
0,1	0,05	0,02	0,01	0.001
	6,31	12,7	31,82	63.66	–
	2,92	4,30	6,97	9,93	31,60
	2,35	3,18	4,54	5,84	12,94
	2,13	2,78	3,75	4,60	8,61
	2,02	2,57	3,37	4,03	6,86
	1,94	2,45	3,14	3,71	5,96
	1,90	2,37	3,00	3,50	5,41
	1,86	2,31	2,90	3,36	5,04
	1,83	2,26	2,82	3,25	4,78
	1,81	2,23	2,76	3,17	4,59
	1,80	2,20	2,72	3,11	4,44
	1,78	2,18	2,68	3,06	4.32
	1,77	2,16	2.65	3,01	4,22
	1,76	2,15	2,62	2,98	4.14
	1,75	2,13	2,60	2,95	4,07
	1,75	2,12	2,58	2,92	4,02
	1,74	2,11	2,57	2,90	3,97
	1,73	2,10	2,55	2,88	3,92
	1,73	2,09	2,54	2.86	3,88
	1,73	2,09	2,53	2,85	3.85
	1.72	2,08	2,52	2,83	3,82
	1,72	2,07	2.51	2,82	3,79
	1.71	2,07	2.50	2.81	3,77
	1.71	2,06	2,49	2,80	3,75
	1,71	*2,06	2,49	2.79	3,73
	1,71	2,06	2,48	2,78	3,71
	1.70	2,05	2,47	2,77	3,69
	1.70	2,05	2,47	2,76	3,67
	1.70	2,05	2,46	2,76	3,66
	1,70	2,04	2.46	2,75	3,65
∞	1.64	1,96	2,33	2,58	3,29

 

Иногда у живых организмов встречается взаимосвязанное изменение двух или более признаков. Тогда говорят о корреляции этих признаков, а такое взаимосвязанное изменение их называют сопряженной вариацией. При положительной корреляции зависимость между признаками прямая: при увеличении доли одного из признаков увеличивается доля второго. При отрицательной корреляции зависимость между признаками обратная: увеличение доли одного признака связана с уменьшением доли второго.

Простая корреляция заключается в сопряженной вариации двух признаков. Для выявления меры такой корреляции пользуются формулой:

, где

r – коэффициент корреляции.

Если r = 0,71 – 0,96 – связь между признаками тесная;

r = 0,51 – 0,7 – связь значительная;

r = 0,31 – 0,5 – связь умеренная;

r = 0,11 – 0,3 – связь слабая;

r = 0,1 – связь между признаками отсутствует.