Розділ І. Основні поняття математичної статистики

Точкові оцінки.

Означення. Випадковий вектор  зі значеннями в просторі  називатимемо вибіркою (вибірковим вектором).

Вибірку  утворену послідовністю незалежних однаково розподілених випадкових величин , кожна з яких має розподіл , називають вибіркою з розподілу (закону)  обсягом .

Множину  усіх можливих значень вибірки (вибіркового вектора) будемо називати вибірковим простором (далі вибірковий простір  - це  або його підмножина).

Ми розглядатимемо вибірки, розподіли (функції розподілу) яких залежать від параметра . Множина можливих значень  параметра  є підмножиною скінчено-вимірного простору .

Постановка задачі оцінювання параметрів розподілів. Нехай  - реалізація вибірки  з розподілом . Розподіл  залежить від параметра , який набуває значень із множини . Значення параметра  невідоме і його необхідно оцінити (визначити) за реалізацією  вибірки . У цьому і полягає задача оцінювання параметрів розподілів.

Єдине, що нам відомо для оцінювання невідомого параметра  - це реалізація  вибірки . Крім реалізації  вибірки ми не маємо нічого, що несло б інформацію про значення параметра . Тому "оцінити (визначити)  за реалізацією  (точно чи хоча б наближено)" означає поставити у відповідність реалізації  вибірки  значення параметра . Формально це означає, що для оцінювання  на вибірковому просторі - множині реалізації вибірок - необхідно визначити (побудувати, задати) функцію  зі значеннями в  - множині можливих значень параметра  - таку, що  дорівнює  або  хоча б наближено дорівнює . Значення  ми й будемо використовувати як . Зазначимо, що для кожної реалізації  значення , яке використовується як , буде своє; тому  як функція  є випадковою величиною.

Означення. Борелеву функцію , задану на вибірковому просторі , зі значеннями в  - множині можливих значень параметра  - будемо називати статистикою, а  - борелеву функцію від вибірки - оцінкою.

Будувати статистики , такі щоб  тобто статистики, з допомогою яких за  можна було б точно визначити , явно не вдасться вже хоча б тому, що  є константою, а оцінка  як функція вибірки (випадкової величини) є випадковою величиною. Тож подобається нам чи ні, для визначення  ми будемо змушені вдовольнятися оцінками , як наближеними значеннями .

Зазначимо, що для одного й того самого параметра  можна запропонувати багато оцінок.

Похибки оцінювання параметрів. У зв’язку з постановкою задачі оцінювання параметрів розподілів як задачі знаходження наближених значень  параметра  треба вміти відповідати на запитання: наскільки великою є похибка  при заміні  на , інакше кажучи, як далеко можуть відхилятися значення оцінки , обчисленої за вибіркою , відповідної величини ?

Від оцінки , яка пропонується для оцінювання того чи іншого параметра, природно вимагати малого розсіювання її значень, іншими словами концентрації їх у вузькому колі. Як кількісну міру розсіювання значень випадкової величини  розглядатимемо  (для наочності  - одновимірний параметр).

Кількісно міру похибки при заміні  на  (міру розсіювання  відносно ) будемо описувати величиною

Серед усіх оцінок з однією і тією самою дисперсією  (мірою розсіювання) мінімальну міру розсіювання відносно  мають оцінки, для яких . Останнє випливає з рівностей

 

 

Означення. Оцінку  будемо називати незміщеною оцінкою параметра , якщо , або, що те саме,

Наочно незміщеність оцінки  параметра  можна трактувати так: за багаторазового використання оцінки  як значення , тобто за багаторазової заміни  на , середнє значення похибки  дорівнює нулеві.

Часто розглядають не одну оцінку , побудовану за вибіркою , а послідовність оцінок  У цій ситуації природно говорити про асимптотичну поведінку послідовності оцінок.

Означення. Послідовність оцінок  будемо називати спроможною послідовністю оцінок параметра , якщо для кожного

 

 

при , або, що те саме,  збігається за ймовірністю до , при .

Означення. Послідовність оцінок  називатимемо асимптотично незміщеною послідовністю оцінок параметра , якщо при , або, що те саме,  при .