Законы больших чисел и предельные теоремы

Закон больших чисел (в широком смысле) – общий принцип, согласно которому, совокупное действие большого числа случайных факторов приводит (при некоторых весьма общих условиях) к результату, почти не зависящему от случая. Другими словами, при большом числе случайных величин их средний результат перестает быть случайным и м.б. предсказан с большой степенью определенности.

Закон больших чисел (в узком смысле) – ряд математических теорем, в каждой из которых для тех или иных условий устанавливается факт приближения средних характеристик большого числа испытаний к некоторым определенным постоянным.

Неравенство Маркова (лемма Чебышева)

Теорема. Если случайная величина X принимает только неотрицательные значения и имеет мат. ожидание, то для любого положительного числа А верно неравенство P(x>A) . (1)

Доказательство: проведем для дискретной случайной величины X. Расположим ее значения в порядке возрастания, из которых часть значений x , x ,…, x будут не более числа А, а другая часть - x ,…, x будут больше А, т.е.x <=A, x <=A,…, x <=A; x >A,…, x >A.

Запишем выражение для математического ожидания M(X):

x p + x p +…+ x p + x p +…+ x p =M(X)

где p , p ,…, p - вероятности того, что случайная величина Х примет значения соответственно x , x ,…, x .

Отбрасывая первые k неотриц. слагаемых получим x p +…+ x p <=M(X) (2)

Заменяя в неравенстве (2) значения x ,…, x меньшим числом А, получим более сильное неравенство A(p +…+ p )<=M(X) или p +…+ p <= .

Сумма вероятностей в левой части полученного неравенства представляет собой, сумму вероятностей событий X=x ,…X=x т.е. вероятность события X>A.

Поэтому P(X>A) <= .

Неравенство Чебышева

Теорема. Для любой случайной величины, имеющей мат. ожидание и дисперсию, справедливо неравенство Чебышева: P(|X-a|> )<= , (3) где a=M(X), >0. (P(|X-a| ) 1 - - другая форма записи неравенства Чебышева, тоже правильная. Ее давал Герман)

Доказательство: Применим неравенство Маркова в форме (1) к случайной величине X’=(X-a) взяв в качестве положительного числа A= . Получим <= . (4)

Т.к. неравенство равносильно неравенству |X-a|> , а M(X-a) есть дисперсия случайной величины X, то из неравенства (4) получаем доказываемое неравенство (3).

Теорема Чебышева

Если дисперсии n независимых С.В. X , X ,…, X ограничены одной и той же постоянной, то при неограниченном увеличении числа n средняя арифметическая случайных величин сходится по вероятности к средней арифметической их мат. ожиданий (M (x₁) = a , M (x₂) = a ,…, a =M (x_n), т. е.

(5) или .

Докажем формулу (5). По условию M(X )=a , M(X )=a ,…, M(X )=a ,

Возьмем такое С: D(X )<=C, D(X )<=C,…, D(X )<=C, где C - постоянное число.

Получим неравенство Чебышева для средней арифметической случайных величин, т.е. для X= . Найдем мат. ожидание M(X) и оценку дисперсии D(X)

M(X)=M()= ;

D(X)=D()= .

(Здесь использованы свойства математического ожидания и дисперсии, в частности, то, что случайные величины X , X ,…, X независимы, а следовательно, дисперсия их суммы равна сумме дисперсий.)

Применяем неравенство Чебышева(вариант Германа) для С.В - X=(X ,X ,…,X )/n; (6)

Т.к. по доказанному D(X) , то 1- , и от неравенства (6) перейдем к более сильному неравенству: (7)

В пределе при n величина стремится к нулю, и получим доказываемую формулу (5).