Сходимость последовательностей случайных величин.

Пусть на вероятностном пространстве определены случайные величины со значениями .

Определение 1. Последовательность сходится по вероятности (п.в) к величине X, если

(9.1.1)

Обозначим сходимость к X по вероятности символом .

Определение 2. Последовательность сходится к X почти наверное (п.н) (с вероятностью единица ), если

(9.1.2)

Обозначим эту сходимость символом .

Определение 3. Говорят, последовательность сходится к X в среднеквадратическом (с.к.), если

(9.1.3)

Обозначим эту сходимость символом .

Определение 4. Последовательность сходится к X по распределению (п.р) с обозначением , если

(9.1.4)

Здесь F_n,F- функции распределения X_n и X, причем сходимость {F_n} к F подразумевается для всех x, за исключением, может быть, точек разрыва F.

Сходимости {X_n} к X, введенные определениями 1-4, связаны между собою отношениями, показанными на рис. 9.1.1.

Рис. 9.1.1.

Закон больших чисел.

Рассмотрим ряд теорем, образующих группу теорем закона больших чисел. В качестве леммы необходимой для доказательства теорем докажем важное общее неравенство, известное под названием неравенства Чебышева.

Неравенство Чебышева.

Пусть имеется случайная величина X с математическим ожида­нием т_х и дисперсией D_x. Неравенство Чебышева утверждает, что, каково бы ни было положительное число , вероятность того, что величина X отклонится от своего математического ожидания не меньше чем на , ограничена сверху величиной — :

(9.2.1)

Доказательство. 1. Пусть величина X дискретная, с рядом распределения^:

			…
			…

Изобразим возможные значения величины X и ее математическое ожидание т_х в виде точек на числовой оси Ох (рис. 9.2.1).

Зададимся некоторым значением и вычислим вероятность того, что величина X отклонится от своего математического ожидания не меньше чем на :

(9.2.2)

Для этого отложим от точки т_х вправо и влево по отрезку длиной а; получим отрезок АВ. Вероятность (9.2.1) есть не что иное,

как вероятность того, что случайная точка X попадет не внутрь отрезка АВ, а вовне его:

Для того чтобы найти эту вероятность, нужно просуммировать вероятности всех тех значении x_i, которые лежат вне отрезка АВ. Это мы запишем следующим образом:

(9.2.3)

где запись под знаком суммы означает, что суммирование распространяется на все те значения i, для которых точки лежат вне отрезка АВ.

С другой стороны, напишем выражение дисперсии величины X. По определению:

(9.2.4)

Так как все члены суммы (9.2.4) неотрицательны, она может только уменьшиться, если мы распространим ее не на все значения x_i, а только на некоторые, в частности на те, которые лежат вне отрезка АВ:

(9.2.5)

Заменим под знаком суммы выражение через . Так как для всех членов суммы , то от такой замены сумма тоже может только уменьшиться; значит.

(9.2.6)

Но согласно формуле (9.2.3) сумма, стоящая в правой части (9.2.6). есть не что иное, как вероятность попадания случайной точки вовне отрезка АВ; следовательно,

откуда непосредственно вытекает доказываемое неравенство.

2. В случае, когда величина X непрерывна, доказательство про­водится аналогичным образом с заменой вероятностей p_i элементам вероятности, а конечных сумм — интегралами. Действительно,

где f(x) — плотность распределения величины X. Далее, имеем:

где знак под интегралом означает, что интегрирование распространяется на внешнюю часть отрезка АВ.

Заменяя под знаком интеграла через , получим:

откуда и вытекает неравенство Чебышева для непрерывных величия.

Теорема Чебышева.

Пусть последовательность независимых случайных величин, имеющих одинаковые и . Тогда при их среднее арифметическое сходится по вероятности к их математическому ожиданию, то есть

Доказательство. Выше было показано, что величина

имеет числовые характеристики

Применим к случайной величине Y неравенство Чебышева:

Как бы мало ни было число , можно взять п таким большим, чтобы выполнялось неравенство

где — сколь угодно малое число. Тогда

откуда, переходя к противоположному событию, имеем:

, что эквивалентно

что и требовалось доказать.

Обобщенная теорема Чебышева.

Теорема Чебышева легко может быть обобщена на более слож­ный случай. Обобщенная теорема Чебышева формулируется следующим образом. Если независимые случайные величины с математическими ожиданиями и дисперсиями и если все дисперсии ограничены сверху одним и тем же числом L:

то при возрастании п среднее арифметическое наблюденных значений величин сходится по вероятности к среднему арифметическому их математических ожиданий. Запишем эту теорему в виде формулы. Пусть — сколь угодно малые положительные числа. Тогда при достаточно большом n

Доказательство. Рассмотрим величину

Ее математическое ожидание равно:

а дисперсия

Применим к величине Y неравенство Чебышева:

или

(9.2.7)

Заменим в правой части неравенства (9.2.7) каждую из величин большей величиной L. Тогда неравенство только усилится:

Как бы мало ни было , можно выбрать п настолько большим, чтобы выполнялось неравенство , тогда откуда, переходя к противоположному событию, получим доказываемое неравенство.

Теорема Маркова.

Закон больших чисел может быть распространен и на зависимые случайные величины. Обобщение закона больших чисел на случай зависимых случайных величин принадлежит А. А. Маркову.

Теорема. Если имеются зависимые случайные величины и если при , то среднее арифметическое случайных величин сходится по вероятности к среднему арифметическому их математических ожиданий.