Понятие о методе наименьших квадратов

При обработке результатов наблюдений в естественных, технических и гуманитарных науках часто приходится пользо- ваться эмпирическими формулами, составленными на основа- нии наблюдений. Один из способов получения таких формул — метод наименьших квадратов (МНК). В 1806 г. французский математик Лежандр предложил способ для решения неопреде- ленных СЛАУ, неизвестными в которых являются поправки в результаты наблюдений. Этот способ получил название МНК.

В данном способе уравнения подчиняются дополнительно- му условию − сумма квадратов поправок (V), вводимых в рав- ноточные наблюдения, должна быть минимальной, меньше суммы квадратов любой другой системы поправок, удовлетво- ряющей исходным уравнениям, т. е.

 

(4.14)

 

Условие (4.14) — это математическое выражение принци- па МНК [54].

Например, мы хотим установить зависимость между дву- мя величинами х и у, где х — административные правонару- шения, а у − преступления. Данные, собранные юридической статистикой, свидетельствуют о наличии неполной прямой линейной зависимости между административными правонару- шениями и преступлениями [36]. То есть в этом случае естест- венно считать, что у это линейная функция от х, записываемая следующим образом:

  = ах + b,                                                (4.15)

где а и b − неизвестные коэффициенты;

х − измерения;

 − теоретические значения показателя, лежащие точно на прямой линии.

Исходные данные наблюдений удобно представить в виде табл. 4.1.

Таблица 4.1

Х	x 1	х 2	…………..	х n
Y	у 1	у 2	…………..	у n

Причем значения у i, где  не обязательно точно лежат на прямой линии.

Неизвестные коэффициенты а и b в уравнении (4.15) мож- но найти, используя МНК. В данном случае условие МНК (4.14) будет иметь вид

 

подставляем в него вместо его значение из (4.15) и получаем

 

 

Данную функцию можно рассматривать как функцию двух аргументов а и b. Необходимыми условиями минимума этой функции будут равенства

 

(более подробно см. экстремум функции двух аргу-

ментов).

Далее имеем:

После преобразований получаем так называемую систему нор- мальных уравнений:

Решая данную, систему находим искомые коэффициенты:

                                                                                 (4.16)

(4.17)

 

 

Пример 4.34 [36].

Пусть заданы два ряда наблюдений, характеризующих за шесть лет количество хищений оружия (х) и вооруженные пре- ступления (у). Эти деяния связаны между собой потому, что у них почти одни и те же причины.

Исходные данные поместим в табл. 4.2, причем заполнять ее будем по возрастанию ряда х.

 

Таблица 4.2

Хищение оружия (х)	773	1130	1138	1336	1352	1396
Вооруженные преступления (у)	4481	9549	8873	12160	18059	19154
Выравненные значения	3010	10864	11040	15396	15748	16716
Поправки	1471	-1315	-2167	-3236	2311	2438

В данном случае связь между у и х будем искать в виде

.

По формулам (4.16) и (4.17) находим искомые коэффициен- ты b = -13996; а = 22.

Тогда  получим .                                  (14.18) Используя формулу (4.18), найдем выравненные значе-

ния ряда . Они приведены в третьей строке табл. 4.2, в ней же в четвертой графе показаны поправки.

Используя МНК можно находить коэффициенты и для случая любой нелинейной зависимости двух величин, а также

для случая многофакторной зависимости, т. е. исходная функ- ция будет зависеть от нескольких аргументов, причем она мо- жет быть и линейной, и криволинейной. Например, если связь

между х 1, x 2 и y ищется в виде = а 1 х + а х + b, то коэффи-

2

2

циенты а 1, а 2, b находятся в результате решения системы нор- мальных уравнений:

 

Задачи для самостоятельного решения

1. Найти производные следующих функций:

1.1.                                     ;

1.2.

1.3.

 

1.4.

 

1.5.

1.6.

2. Найти вторые производные следующих функций:

2.1. y = 6 x ⁴ + 4sin 3 x;

2.2. y = e ^{7 x} · tg 5 x; 2.3.

2.4. y = 5 x ⁸ − 16 x ⁵ + sin 2 x

3. Исследовать функции и построить их графики: 3.1. y = 2 x ⁴ − 8 x ² + 3;

3.2.

3.3. y = 2 x ² − 10;

3.4. y = 2 x ³ − 9 x ² + 15 x − 6;

3.5. y = 3 x − x ³;

3.6.

4. Найти  и , если функция Z имеет вид:

4.1. Z = x ³ · sin² y;

4.2. Z = x^y;

4.3.

4.4 Z = tg² (x ³ y) · 2^{2 x +3};

4.5. Z = arctg (x ⁴ + 5 y ⁶);

4.7.

5.Используя правило Лопиталя, найти пределы функций: 5.1.

5.2.

5.3.

5.4.

5.5.

5.6.

6. Найти производную функции

 в точке А (0, -1, 2, 4, -3) по на-

правлению к точке В (0, 1, -2, 4, 3).

7. Найти наибольшую скорость возрастания функции

 в точке А (-2, -1, 3, 0, 4).

8. Найти вторые частные производные функций:

8.1. Z = 5 х ³ у ⁸ – 7ln² y · sin x;

8.2. Z = 16 tg y · х ⁵+2 х ⁷ у ⁶.

9. Найти производные третьего порядка для функций:

9.1. ;

9.2. .

10. Результаты измерения величин х и у заданы в таблице

 

Х	12	22	32	42	52	62
У	149	98	38	-0,1	-59	-99

 

Полагая, что между х и у существует линейная зависи- мость вида  с помощью МНК найти коэффициенты а и b.

11. Найти экстремумы функции двух аргументов.

11.1. Z = 6 – x ² – (у ² – 5)²;

11.2. Z = 7(х – у) – 2 x ² – 3 у ²;

11.3. .

12. Найти производную функцию y, если она задана урав- нением.

12.1. е^xy + y cos (2 x) +5 – 26 = 0;

12.2. 2 x ³ y ² – 4 xy + 7 = 0.

13. Найти вторую производную функции y, если она зада- на уравнением:

13.1. 6 xy ² – 7 yx = 0;

13.2. x ³ – y ³ = 72.

 

Вопросы для самопроверки

1. Что понимают под неявным заданием функции?

2. Как вычислить производную функции заданной не- явно?

3. Каким образом находятся производные высших поряд- ков от функции, заданной неявно?

4. Дать определение производной функции y = f (x).

5. Каковы геометрический и механический смыслы произ- водной?

6. Как найти производную сложной функции?

7. Дать определение дифференциала функции y = f (x).

8. Какой геометрический смысл имеет дифференциал?

9. Что называется производной второго порядка от функ- ции y = f (x)?

10. В чем состоит достаточный признак экстремума?

11. Какие точки называются точками перегиба функции

y = f (x)?

12 Что называется асимптотой функции y = f (x)?

13. Сформулировать правило Лопиталя и привести приме- ры его применения.

14. Что называется функцией двух независимых пере- менных?

15. Что называется графиком функции двух независимых переменных?

16. Что называется пределом функции Z = f (x, y) при

x → x 0 и y → y 0.

17. Дать определение частных производных функции двух независимых аргументов.

18. Дать определение градиента

19. Как можно выразить производную по направлению че- рез градиент?

20. Что называется частной производной второго порядка от функции двух независимых аргументов?

21. Дать формулировку теоремы о равенстве вторых сме- шанных частных производных.

22. Что называется производной n-го порядка от заданной функции?

23. В чем состоит суть МНК?

24. Как с помощью МНК находить коэффициенты эмпири- ческих формул?

25. Дать определение точки экстремума функции двух ар- гументов.

26. В чем состоит необходимый признак экстремума функ- ции двух аргументов.

27. В чем состоят достаточные условия экстремума функ- ции двух аргументов.