Коэффициент корреляции двух случайных величин и его свойства

В практике для оценки тесноты статистической зависимости случайных величин более часто используется коэффициент корреляции, а не ковариация. Дело в том, что ковариация является размерной величиной, а коэффициент корреляции – безразмерной. Кроме того, коэффициент корреляции является универсальной мерой тесноты статистической зависимости, стандартизованной для различных случайных величин. Поэтому коэффициент корреляции позволяет сравнивать уровень связи случайных величин разной природы.

Коэффициент корреляции равен:

 

или в другой записи:

 

Свойства коэффициента корреляции:

 

1. Абсолютная величина коэффициента корреляции не превышает 1: .

2. Если коэффициент корреляции равен 1 или -1, то случайные величины и связаны линейной зависимостью: при рост значений одной случайной величины сопровождается ростом значений другой, при рост значений одной случайной величины сопровождается уменьшением значений другой.

3. Если случайные величины и независимы, то их коэффициент корреляции равен 0, т.е. . Обратное утверждение неверно, т.е. при значении коэффициента корреляции равном нулю случайные величины и не обязательно будут независимыми.

 

Законы больших чисел

Законами больших чисел называются несколько теорем теории вероятностей, которые утверждают, что при неограниченном увеличении числа опытов или испытаний и при некоторых дополнительных условиях те или иные средние характеристики этих серий опытов стремятся к некоторым постоянным, т.е. имеют их в качестве пределов последовательностей средних характеристик соответствующих опытов. Эти теоремы отличаются друг от друга дополнительными условиями и теми средними величинами, о которых делаются утверждения этих теорем.

При однократном проведении опыта никогда нельзя заранее определить его результат. Но теоремы больших чисел утверждают, что при достаточно большом числе повторений опытов те или иные средние значения случайных величин становятся близкими к некоторым константам. В каждой теореме больших чисел речь идёт о своих случайных величинах и их средних. Каждая теорема больших чисел определяет условия, при которых проявляются такие закономерности в стабилизации значений средних величин при большом числе опытов.

Сходимость по вероятности

Последовательность случайных величин сходится по вероятности к случайной величине , если для любого и для любого найдётся такое , что при всех вероятность того, что будет отличаться от меньше, чем на , будет больше, чем :

 

 

То же утверждение можно записать с помощью использования понятия предела:

для всякого

Сходимость по вероятности к символически часто обозначается так:

 

Так же, как и для обычного предела последовательности можно доказать, что если последовательность случайных величин имеет предел, то только один. Кроме того, можно доказать, что для любой непрерывной функции из того, что последовательность сходится по вероятности к , т.е. следует, что последовательность сходится по вероятности к , т.е. . В частности, это свойство справедливо для линейных функций и возведения в квадрат:

 

и .

 

Частным случаем сходимости последовательность по вероятности является сходимость этой последовательности к константе , т.е. . Такая сходимость равносильна сходимости последовательности к , т.е. .

Неравенства Чебышева

Так называются следующие неравенства, которые верны для любой случайной величины для любого :

 

 

 

Эти неравенства иногда используются в другом виде, который получается, если заменить вероятности в них на вероятности противоположных событий, которые равны единице минус исходных вероятности:

 

 

 

Пример.

Определим вероятность того, что произвольная случайная величина примет значение за пределами интервала вокруг математического ожидания :

 

.

 

Следовательно, значение вероятности отклонения для любой случайной величины не менее чем на от математического ожидания будет не более . Следовательно, для любой случайной величины вероятность иметь значение в окрестности от её математического ожидания не может быть меньшей . При этом существуют случайные величины, значения которых внутри этой окрестности лежат с существенно большими вероятностями.

Теорема Бернулли

Формально схема Бернулли может быть описана следующим образом. Проводится последовательность из испытаний, каждое из которых осуществляется независимо от каждого из остальных и в каждом из которых одно и то же событие осуществляется с одной и той же вероятностью . По сложившейся традиции осуществление события называется успехом, именно его вероятность равна . Осуществление противоположного события называется неудачей, его вероятность равна .

Если обозначить через результат i-ого испытания, который может быть либо , либо , то вероятность равна либо , либо , в зависимости от того, осуществилось событие или противоположное событие .

В схеме Бернулли возможно доказать одну из теорем больших чисел. Она утверждает следующее. Если - это число успехов в испытаниях, то последовательность сходится по вероятности к вероятности успеха , т.е. .

Доказательство этой теоремы приведено в книге математике Якоба Бернулли «Искусство предположений», которая опубликована в 1713 году уже после его смерти. Поэтому теорема и была названа его именем. Значение этой теоремы, в частности, в том, что она обосновывает наблюдаемую в практике проведения разнообразных испытаний такую закономерность: при большом числе испытаний доля успехов неограниченно приближается к истинному значению вероятности отдельного успеха. Поэтому на практике можно определять вероятности в схеме Бернулли по статистическому определению, как частное от деления числа успехов на общее число проведённых испытаний. Это значение будет тем точнее, чем больше испытаний будет проведено.

Доказательство теоремы Бернулли можно провести с использованием одного из неравенств Чебышева. Как известно, для случайной величины математическое ожидание равно , а дисперсия равна .

Следовательно, для случайной величины аналогичные характеристики равны:

, .

 

Следовательно, в соответствии с последней формой неравенства Чебышева для случайной величины для любого :

 

, т.е.

 

Для любого найдётся такое , что , потому что при увеличении величина может стать сколь угодно малой. Тогда для любого и для любого найдётся такое , что при всех вероятность того, что будет отличаться от меньше, чем на , будет больше, чем :

 

, потому что верно, что .

 

А это в свою очередь означает, что для всякого , т.е. . Это и следовало доказать.