Применение метода наименьших квадратов для получения уравнения регрессии выше первого порядка

При составлении системы нормальных уравнений для полиномов выше первого порядка нелинейные члены уравнения регрессии рассматриваются как самостоятельные переменные.

Рассмотрим пример решения для двух факторов. Для отыскания в уравнении  коэффициентоврегрессии  и  составим систему нормальных уравнений для плана эксперимента (табл. 4.2).

 

Таблица 4.2. План эксперимента

№						y
1
2
.	.	.	.	.	.	.
.	.	.	.	.	.	.
N

 

 

Система нормальных уравнений для регрессионной модели второго порядка

. (4.6)

Решая совместно систему уравнений (4.6), найдем численные значения коэффициентов регрессии .

 

7.4. Применение метода наименьших квадратов
для ортогональных планов

Для ортогональных планов решение системы нормальных уравнений настолько упрощается, что не требуется ЭВМ. Рассмотрим это на примере линейной модели с тремя факторами . Матрица планирования ПФП представлена в табл. 4.3.

 

Таблица 4.3. Матрица планирования ПФП

№					y
1
2
.	.	.	.	.	.
.	.	.	.	.	.
N

 

Выведем формулы для расчета коэффициентов регрессии. Отметим, что в матрице (см. табл. 4.1) i = 0, 1, 2, 3 (k) j = 1, 2, 3,..., 8 (N).
В соответствии с матрицей планирования составим систему нормальных уравнений:

.         (4.7)

Используя свойство нормированности  и свойство ортогональности   вместо системы уравнений (4.7)
получим независимые уравнения     

.                                           (4.8)

Из системы (4.8) получим формулы для расчета коэффициентов регрессии

или в общем виде

                                        (4.9)

Раскроем формулу (4.9) применительно к матрице ПФП для трех факторов (k = 3)  при   x  = l:

Поскольку  равны +1 или –1, имеем:

Нормализация факторов сводит расчет коэффициентов регрессии
к простым арифметическим действиям. После расчета коэффициентов регрессии получим линейную модель. Например, для k = 2 .

Графическая интерпретация модели представлена на рис. 4.1.

 

             а                                                             б

 

Рис. 4.1. Значения параметра оптимизации:
при фиксированном значении ;  при фиксированном значении

 

Коэффициенты при независимых переменных указывают на степень влияния факторов при этих коэффициентах: чем больше абсолютная численная величина коэффициента, тем сильнее влияние, оказываемое фактором при этом коэффициенте. Если коэффициент имеет знак (+),
то с увеличением значения фактора при этом коэффициенте выходная величина растет, а если (–), то уменьшается. После получения уравнения регрессии еще нельзя сказать, насколько достоверно оно описывает результаты эксперимента. Только после проверки полученной линейной модели на пригодность можно установить ее адекватность результатам эксперимента. Соответствующая методика изложена в главе 5.

В связи с наличием парных и более высоких взаимодействий факторов модель может быть неадекватна.

 

Эффекты взаимодействия

Полный факторный план позволяет количественно оценить эффекты взаимодействия. Парное взаимодействие может быть получено перемноже-нием соответствующих столбцов значений факторов и последующим введением в матрицу эксперимента дополнительного фактора (табл. 4.4).

 

Таблица 4.4. Матрица ПФП при учете эффекта
взаимодействия факторов

 

№				y
1	–	–	+
2	+	–	–
3	–	+	–
4	+	+	+

Полученной матрице присущи три основных свойства ПФП, следовательно, уравнение с парным взаимодействием правомерно. Коэффициент регрессии парного взаимодействия подсчитывается по формулам:

или  

                                               .                                  (4.10)

Построим в качестве примера матрицу базисной функций ПФП для
N =   (табл. 4.5) и напишем соответствующее уравнение регрессии:

.

Таблица 4.5.  Матрица базисной функции ПФП для N =

№									y
1	+	–	–	–	+	+	+	–
2	+	+	–	–	–	+	–	+
3	+	–	+	–	–	–	+	+
4	+	+	+	–	+	–	–	–
5	+	–	–	+	+	–	–	+
6	+	+	–	+	–	–	+	–
7	+	–	+	+	–	+	–	–
8	+	+	+	+	+	+	+	+

 

3десь – тройное взаимодействие. Имеем восемь опытов
и столько же коэффициентов регрессии. Для проверки адекватности этой модели не хватает одной степени свободы. Поэтому для проверки того, насколько достоверно модель описывает результаты эксперимента, необходимо пожертвовать одним эффектом взаимодействия, например второго порядка ().

В дальнейшем будем называть взаимодействия второго, третьего, четвертого и т. д. порядка соответственно: двойным, тройным (),четверным () и т. д. Полный факторный план позволяет оценить взаимодействия любого порядка (двойное, тройное и т. д.).