Метод найменших квадратiв (МНК)

Метод найменших квадратів – метод розрахунку параметрів моделі Y_р= â₀ + â_1·x +u_i^{^} Ідея методу базується на тому, що величина u_і має буде мінімальною:

= ∑(y_i - ỳ) або ∑(y_i - ỳ)² або ∑│y_i - ỳ│® min.

Краще всього в ролі функції оцінки відхилень взяти суму квадратів відхилень кожної точки від свого розрахункового значення Q (â₀ , â₁) = = ∑(y_i - ỳ_i)² = ∑ (y_i – (â₀ + â_1·x_і+ u^{^}_i)) ².

Ця функція має min значення в тих точках, де частинні похідні по змінних â_0, â₁ l дорівнюватимуть нулю:

=0, (y_i – (â₀ + â_1·x_і))(-1) = 0, ∑ y_і – ∑â₀ – ∑ â_1·x_і = 0,

=0 ((y_i – (â₀+ â_1·x_і))(- x_i)=0 ∑ y_і·х_і – â₀ ∑ х_і – â₁ ∑ _·x_і² =0,

 

Записується остаточна система рівнянь: n â₀ + â₁ ∑ _·x_і = ∑ y_і ,

â₀ ∑ х_і + â₁ ∑ _·x_і² =∑ y_і·х_і ,

n – кількість спостережень.

Розв’язання системи рівнянь проводиться за допомогою оберненої матриці або за правилом Крамера. Основний визначник системи , тому існує єдиний розв'язок системи:.

ả_{1 = = ;} ả_{0 = = .}

З цього випливає, що лінія регресії проходить через точку, координати якої є середніми значеннями показника Y та фактора X: . Середнє значення прогнозу показника Y _р при значенні фактора Х_р визначається за формулою = ả₀ + ả₁

Дисперсійний аналіз моделі

Для аналізу якості існуючої залежності між факторами регресії використовуються коефіцієнти (індекси) детермінації і кореляції.

Залишки моделі розраховуються: = u^{^}_і. Перепишемо цю залежність у іншому вигляді, враховуючи, що :

у_і - = (â₀ + â_1·x_і+ u^{^}_і) – (â₀ + â_1· ) = â₁ (x_і - ) + u^{^}_і

у_і - ) ² = â₁ (x_і - ))² + 2 â₁ x_і - )· u_і + =

= â₁ (x_і - ))² + 2 â₁ x_і - )·((у_і - ) – â₁ (x_і - )) + .

Оскільки â₁ = , то = â₁ , і

другий доданок дорівнюватиме нулю.

= - )² + .

· Дисперсія залишків (випадкова дисперсія) D_u = = характеризує міру відхилень значень залежного фактора y_i відрозрахованих значень за моделлю y_i^.

· Дисперсія залежної змінної D_у = характеризує міру відхилень значень залежного фактора y_i від середнього значення .

· Систематична дисперсія D_y^{^} = â₁ (x_і - )) ² = - )² характеризує міру відхилень розрахованих значень за моделлю y_i^ від середнього значення .

 

· Таким чином дисперсія залежної змінної дорівнює сумі систематичної дисперсії і дисперсії залишків: D_у = D _y^ + D_u, = - )² + .

· Коефіцієнт детермінації R² = 1 - = є (0;1)

знаходиться для перевірки якості рівняння регресії і визначає характер лінійного впливу зміни значень факторів моделі на змінну Y, тобто на скільки відсотків рівняння регресії пояснює поведінку залежної змінної Y.

Крім того, показник R² може виявитися в ході розрахунків від¢ємним, чому може сприяти: неякісна лінійна модель (зв¢язок в моделі є нелінійним);

коефіцієнт моделі а₀ є дуже і дуже малим;

малий обсяг статистичних даних.

· Коефіцієнт кореляції R =√ R² є (-1;1) характеризує тісноту лінійного зв’язку:

чим тіснішим є лінійний зв¢язок між Х і Y, тим ближче R 1,

чим слабшим є лінійний зв¢язок між Х і Y,тим ближче R 0.

Крім того, якщо R > 0, то характер зміни Х і Y однаковий, R > 0 при а^{^}₁ > 0;

якщо R < 0, то характер зміни Х і Y протилежний, R < 0 при а^{^} ₁ < 0;

якщо R (X,Y) = 0, то величини X та Y некорельовані.

або вибірковий коефіцієнт кореляції

· Стандартне (середнє квадратичне) відхилення оцінки ả₀: s _ả0 = s _u^

· Стандартне (середнє квадратичне) відхилення вільного члена рівняння регресії оцінки ả₁ знаходять за формулою s_ả1 = s_u^

· Інтервали надійності для оцінок :

· Межі (інтервали) надійності індивідуальних прогнозних

Y^*_пр - t_{α; (n-2)} · σ _u^ < Y^*_пр < Y^*_пр + t_{α; (n-2)} · σ _u^

де t_a - статистика Ст'юдента, α- рівень значущості, k = n - 2 ступені свободи.

 

Лабораторна робота №1

«Економетрична модель парної регресії»

 

Постановка задачі.

2. Специфікація моделі: х –

у –

«Хмара розсіювання»

 

 

“Точечные диаграммы”: “Диапазон”: Массивы (Х; Y)

Розрахунок моделей

Лінійна модель: .

Розрахункова модель: .