Властивості оцінок параметрів лінійної моделі та їх інтерпретація

Оцінки параметрів є вибірковими характеристиками і повинні мати такі властивості:

1) незміщеності;

2) обгрунтованості;

3) ефективності;

4) інваріантності.

Означення 4.5. Вибіркова оцінка параметрів називається незміщеною, якщо вона задовольняє рівність

(4.12)

У розглядуваному випадку

Оскільки згідно з першою умовою , то . Отже, оцінка параметрів 1МНК є незміщеною.

Незміщеність — це мінімальна вимога, яка ставиться до оцінок параметрів . Якщо оцінка незміщена, то при багаторазовому повторенні випадкової вибірки попри те, що для окремих вибірок, можливо, були помилки оцінки, середнє значення цих помилок дорівнює нулю.

Різниця між математичним сподіванням оцінки і значенням оціненого параметра

(4.13)

називається зміщенням оцінки.

Не можна плутати помилку оцінки з її зміщенням. Помилка дорівнює і є випадковою величиною, а зміщення — величина стала.

Дуже важливою властивістю оцінки є її обгрунтованість.

Означення 4.6. Вибіркова оцінка параметрів А називається об­грунтованою, якщо при досить малій величині > 0 справджується cпіввідношення

(4.14)

Іншими словами, оцінка обгрунтована, коли вона задовольняє закон великих чисел. Обгрунтованість помилки означає, що чим більші будуються вибірки, тим більша ймовірність того, що помилка оцінки не перевищуватиме достатньо малої величини e.

Для обгрунтованості оцінок, здобутих на основі 1МНК, мають виконуватися три умови:

1) , де Q — додатно визначена матриця;

2) де Q — додатно визначена матриця;

3)

Третя властивість оцінок Â — ефективність — пов’язана з величиною дисперсії оцінок.

Тут доречно сформулювати важливу теорему Гаусса — Маркова, що стосується ефективності оцінки 1МНК.

Теорема Гаусса — Маркова. Функція оцінювання за методом 1МНК покомпонентно мінімізує дисперсію всіх лінійно незміщених функцій вектора оцінок :

для ,

де — дисперсія оцінок , визначених згідно з 1МНК, — дисперсія оцінок , визначених іншими методами.

Отже, функція оцінювання 1МНК у класичній лінійній моделі є найкращою (мінімально дисперсійною) лінійною незміщеною функцією оцінювання. (Цю властивість називають BLUE).

З означення дисперсії випливає, що — параметр розподілу ви­падкової величини А, яка є мірою розсіювання її значень навколо математичного сподівання.

Означення 4.7. Вибіркова оцінка параметрів А називається ефективною, коли дисперсія цієї оцінки є найменшою.

Нехай ефективна оцінка параметрів , а — деяка інша оцінка цих параметрів. Тоді

(4.15)

тобто це відношення називається ефективністю оцінки. Очевидно, що ; чим ближче до одиниці, тим ефективнішою є оцінка. Цікаво, що відношення може бути функцією сукупності спостережень , причому зі збільшенням може швидко змінюватися.

Означення 4.8. Незміщена оцінка , дисперсія якої при задовольняє умову називається асимптотично ефективною оцінкою.

Пошук ефективних оцінок параметрів — досить складна справа. Проте оскільки дисперсія середнього арифметичного значення оцінки, яка має вимірів, дорівнює то, як можна довести, що дає ефективну оцінку параметрів А.

Ще одна важливість оцінок — їх інваріантність.

Означення 4.8. Оцінка параметрів називається інваріант­ною, якщо для довільно заданої функції оцінка параметрів функції подається у вигляді . Іншими словами, інваріантність оцінки базується на тому, що в разі перетворення параметрів за допомогою деякої функції таке саме перетворення, виконане щодо , дає оцінку нового параметра.

Інваріантність оцінок має велике практичне значення. Наприклад, якщо відома оцінка дисперсії генеральної сукупності і вона інваріантна, то оцінку середньоквадратичного відхилення можна дістати, добувши квадратний корінь із оцінки дисперсіі. Коефіцієнт кореляції R є інваріантною оцінкою до коефіцієнта детермінації .

8. Дисперсійно-коваріаційна матриця, її обчислення та елементи

У класичній регресійній моделі Y = XA + u вектор і залежний від нього вектор є випадковими змінними. До оператора оцінювання входить вектор (), а отже, оператор також можна вважати випадковою функцією оцінювання параметрів моделі.

Відомо, що для характеристики випадкових змінних , поряд з математичним сподіванням, застосовуються також дисперсія і коваріація (j ¹ k). Істинні (справжні) значення цих параметрів класичної економетричної моделі утворюють дисперсійно-коваріаційну матрицю

(4.16)

Оцінки коваріаційної матриці використовуються для знаходження стандартних помилок та обчислення довірчих інтервалів оцінок параметрів . Вони використовуються й при перевірці їх статистичної значущості. На головній діагоналі матриці містяться оцінки дисперсій j-ї оцінки параметрів, що ж до елементів (j ¹ k), які роз­міщені поза головною діагоналлю, то вони є оцінками коваріації між і .

Отже,

, (4.17)

де — незміщена оцінка дисперсії залишків;

.

Оскільки вектор залишків , то добуток векторів можна записати так:

.

Звідси маємо альтернативну форму запису дисперсії залишків:

Позначимо (j, k)-й елемент матриці символом , тоді j-й елемент по головній діагоналі матриці обчислюється за формулою:

. (4.18)

Коваріації , що містяться за межами головної діагоналі, відповідно такі:

.(4.19)