Закон больших чисел. Предельные теоремы. Неравенство Чебышева. Теоремы Чебышева. Теорема Бернулли.

Изучение статистических закономерностей позволило установить, что при некоторых условиях суммарное поведение большого количества случайных величин почти утрачи-вает случайный характер и становится закономерным (иначе говоря, случайные отклоне-ния от некоторого среднего поведения взаимно погашаются). В частности, если влияние на сумму отдельных слагаемых является равномерно малым, закон распределения суммы приближается к нормальному. Математическая формулировка этого утверждения дается в группе теорем, называемой законом больших чисел.

Неравенство Чебышева.

Неравенство Чебышева, используемое для доказательства дальнейших теорем, справед-ливо как для непрерывных, так и для дискретных случайных величин. Докажем его для дискретных случайных величин.

Неравенство Чебышева.

p( | X – M (X)| < ε) ≥ D (X) / ε². (13.1)

Доказательство. Пусть Х задается рядом распределения

Х	х 1	х 2	…	хп
р	р 1	р 2	…	рп

 

Так как события | X – M (X)| < ε и | X – M (X)| ≥ ε противоположны, то р (| X – M (X)| < ε) + + р (| X – M (X)| ≥ ε) = 1, следовательно, р (| X – M (X)| < ε) = 1 - р (| X – M (X)| ≥ ε). Найдем р (| X – M (X)| ≥ ε).

D (X) = (x ₁ – M (X))² p ₁ + (x ₂ – M (X))² p ₂ + … + (x_n – M (X))² p_n. Исключим из этой суммы те слагаемые, для которых | X – M (X)| < ε. При этом сумма может только уменьшиться, так как все входящие в нее слагаемые неотрицательны. Для определенности будем считать, что отброшены первые k слагаемых. Тогда

D (X) ≥ (x_{k+ 1} – M (X))² p_{k+ 1} + (x_{k+ 2} – M (X))² p_{k +2} + … + (x_n – M (X))² p_n ≥ ε² (p_{k+ 1} + p_{k+ 2} + … + p_n).

Отметим, что p_{k+ 1} + p_{k+ 2} + … + p_n есть вероятность того, что | X – M (X)| ≥ ε, так как это сумма вероятностей всех возможных значений Х, для которых это неравенство справедливо. Следовательно, D (X) ≥ ε² р (| X – M (X)| ≥ ε), или р (| X – M (X)| ≥ ε) ≤ D (X) / ε². Тогда вероятность противоположного события p( | X – M (X)| < ε) ≥ D (X) / ε², что и требо-валось доказать.

Теоремы Чебышева и Бернулли.

теорема Чебышева. Если Х ₁, Х ₂,…, Х_п – попарно независимые случайные величины, дисперсии которых равномерно ограничены (D (X_i) ≤ C), то для сколь угодно малого числа ε вероятность неравенства

будет сколь угодно близка к 1, если число случайных величин достаточно велико.

Замечание. Иначе говоря, при выполнении этих условий

Доказательство. Рассмотрим новую случайную величину и найдем ее математическое ожидание. Используя свойства математического ожидания, получим, что . Применим к неравенство Чебышева: Так как рассматриваемые случайные величины независимы, то, учитывая условие теоремы, имеем: Используя этот результат, представим предыдущее неравенство в виде:

Перейдем к пределу при : Поскольку вероятность не может быть больше 1, можно утверждать, что

Теорема доказана.

Следствие.

Если Х ₁, Х ₂, …, Х_п – попарно независимые случайные величины с равномерно ограничен-ными дисперсиями, имеющие одинаковое математическое ожидание, равное а, то для любого сколь угодно малого ε > 0 вероятность неравенства будет как угодно близка к 1, если число случайных величин достаточно велико. Иначе говоря, .

Вывод: среднее арифметическое достаточно большого числа случайных величин прини-мает значения, близкие к сумме их математических ожиданий, то есть утрачивает характер случайной величины. Например, если проводится серия измерений какой-либо физической величины, причем: а) результат каждого измерения не зависит от результатов остальных, то есть все результаты представляют собой попарно независимые случайные величины; б) измерения производятся без систематических ошибок (их математические ожидания равны между собой и равны истинному значению а измеряемой величины); в) обеспечена определенная точность измерений, следовательно, дисперсии рассматривае-мых случайных величин равномерно ограничены; то при достаточно большом числе измерений их среднее арифметическое окажется сколь угодно близким к истинному значению измеряемой величины.

Теорема Бернулли.

теорема Бернулл. Если в каждом из п независимых опытов вероятность р появления события А постоянна, то при достаточно большом числе испытаний вероят-ность того, что модуль отклонения относительной частоты появлений А в п опытах от р будет сколь угодно малым, как угодно близка к

1:

Доказательство. Введем случайные величины Х ₁, Х ₂, …, Х_п, где X_i – число появлений А в i -м опыте. При этом X_i могут принимать только два значения: 1(с вероятностью р) и 0 (с вероятностью q = 1 – p). Кроме того, рассматриваемые случайные величины попарно независимы и их дисперсии равномерно ограничены (так как D (X_i) = pq, p + q = 1, откуда pq ≤ ¼). Следовательно, к ним можно применить теорему Чебышева при M_i = p:

.

Но , так как X_i принимает значение, равное 1, при появлении А в данном опыте, и значение, равное 0, если А не произошло. Таким образом,

что и требовалось доказать.

Замечание. Из теоремы Бернулли не следует, что Речь идет лишь о вероятно-сти того, что разность относительной частоты и вероятности по модулю может стать сколь угодно малой. Разница заключается в следующем: при обычной сходимости, рассматриваемой в математическом анализе, для всех п, начиная с некоторого значения, неравенство выполняется всегда; в нашем случае могут найтись такие значения п, при которых это неравенство неверно. Этот вид сходимости называют сходимостью по вероятности.

Системы случайных величин. Закон распределения вероятностей дискретной двумерной случайной величины. Функции распределения двумерной случайной величины и ее свойства. Двумерная плотность вероятности и ее свойства.

Закон распределения дискретной двумерной случайной величины (Х, Y)имеет вид таблицы с двойным входом, задающей перечень возможных значений каждой компоненты и вероятности p (x_i, y_j), с которыми величина принимает значение (x_i, y_j):

Y	Х
x 1	x 2	…	xi	…	xn
y 1	p (x 1, y 1)	p (x 2, y 1)	…	p (xi, y 1)	…	p (xn, y 1)
…	…	…	…	…	…	…
yj	p (x 1, yj)	p (x 2, yj)	…	p (xi, yj)	…	p (xn, yj)
…	…	…	…	…	…	…
ym	p (x 1, ym)	p (x 2, ym)	…	p (xi, ym)	…	p (xn, ym)

 

При этом сумма вероятностей, стоящих во всех клетках таблицы, равна 1.

Зная закон распределения двумерной случайной величины, можно найти законы распреде-ления ее составляющих. Действительно, событие Х = х ₁ представляется собой сумму несовместных событий (X = x ₁, Y = y ₁), (X = x ₁, Y = y ₂),…, (X = x ₁, Y = y_m), поэтому

р (Х = х ₁) = p (x ₁, y ₁) + p (x ₁, y ₂) +…+ p (x ₁, y_m) (в правой части находится сумма вероятностей, стоящих в столбце, соответствующем Х = х ₁). Так же можно найти вероятности остальных возможных значений Х. Для определения вероятностей возможных значений Y нужно сложить вероятности, стоящие в строке таблицы, соответствующей Y = y_j.

Функцией распределения F (x, y) двумерной случайной величины (X, Y) называется вероятность того, что X < x, a Y < y: F (х, у) = p (X < x, Y < y). (8.1)

Рис.1. Это означает, что точка (X, Y) попадет в область, заштрихованную на рис. 1, если вершина прямого угла располагается в точке (х, у). Замечание. Определение функции распределения справедливо как для непрерывной, так и для дискретной двумерной случайной величины. Свойства функции распределения. 1)0 ≤ F (x, y) ≤ 1 (так как F (x, y) является вероятностью). 2)F (x, y) есть неубывающая функция по каждому аргументу: F (x ₂, y) ≥ F (x ₁, y), если x ₂ > x F (x, y ₂) ≥ F (x, y ₁), если y ₂ > y ₁. Доказательство. F (x ₂, y) = p (X < x ₂, Y < y) = p (X < x ₁, Y < y) + p (x ₁ ≤ X < x ₂, Y < y) ≥ p (X < x ₁, Y < y) = F (x ₁, y). Аналогично доказывается и второе утверждение. 3)Имеют место предельные соотношения: а) F (-∞, y) = 0; b) F (x, - ∞) = 0; c) F (- ∞, -∞) = 0; d) F (∞, ∞) = 1. Доказательство. События а), b) и с) невозможны (так как невозможно событие Х<- ∞ или Y <- ∞), а событие d) достоверно, откуда следует справедливость приведенных равенств. 4)При у = ∞ функция распределения двумерной случайной величины становится функцией распределения составляющей Х: F (x, ∞) = F ₁(x). При х = ∞ функция распределения двумерной случайной величины становится функцией распределения составляющей Y: F (∞, y) = F ₂(y). Доказательство. Так как событие Y < ∞ достоверно, то F (x, ∞) = р (Х < x) = F ₁(x). Аналогично доказывается второе утверждение. Плотностью совместного распределения вероятностей (двумер-ной плотностью вероятности) непрерывной двумерной случайной величины называ-ется смешанная частная производная 2-го порядка от функции распределения . (8.2) Замечание. Двумерная плотность вероятности представляет собой предел отношения вероятности попадания случайной точки в прямоугольник со сторонами Δ х и Δ у к площади этого прямоугольника при Свойства двумерной плотности вероятности.

1)f (x, y) ≥ 0 (см. предыдущее замечание: вероятность попадания точки в прямоуголь-ник неотрицательна, площадь этого прямоугольника положительна, следовательно, предел их отношения неотрицателен). 2) (cледует из определения двумерной плотности вероятно-сти). 3) (поскольку это вероятность того, что точка попадет на плос-кость О ху, то есть достоверного события).