Формулы, выражающие центральную предельную теорему и встречающиеся при ее практическом применении.

 

Согласно центральной предельной теореме, закон распределения суммы достаточно большого числа независимых случайных величин (при соблюдении некоторых нежестких ограничений) сколь угодно близок к нормальному.

Практически центральной предельной теоремой можно пользоваться и тогда, когда речь идет о сумме сравнительно небольшого числа случайных величин. При суммировании независимых случайных величин, сравнимых по своему рассеиванию, с увеличением числа слагаемых закон распределения суммы очень скоро становится приблизительно нормальным. На практике вообще широко применяется приближенная замена одних законов распределения другими; при той сравнительно малой точности, которая требуется от вероятностных расчетов, такая замена тоже может быть сделана крайне приближенно. Опыт показывает, что когда число слагаемых порядка десяти (а часто и меньше), закон распределения суммы обычно может быть заменен нормальным.

В практических задачах часто применяют центральную предельную теорему для вычисления вероятности того, что сумма нескольких случайных величин окажется в заданных пределах.

Пусть ξ₁, ξ₂,..., ξ_п - независимые случайные величины с математическими ожиданиями

т ₁, т ₂,..., т_п

и дисперсиями

D₁,D₂,...,D_п.

Предположим что условия центральной предельной теоремы выполнены (величины ξ₁, ξ₂,..., ξ_п сравнимы по порядку своего влияния на рассеивание суммы) и число слагаемых п достаточно для того, чтобы закон распределения величины

η=

можно было считать приближенно нормальным.

Тогда вероятность того, что случайная величина η попадает в пределы участка (α, β), выражается формулой

P(α<η<β)=Ф -Ф ,

где т_η, σ_η - математическое ожидание и среднее квадратическое отклонение величины η, Ф - нормальная функция распределения. Согласно теоремам сложения математических ожиданий и дисперсий

Таким образом, для того чтобы приближенно найти вероятность попадания суммы большого числа случайных величин на заданный участок, не требуется знать законы распределения этих величин; достаточно знать лишь их характеристики. Разумеется, это относится только к случаю, когда выполнено основное условие центральной предельной теоремы - равномерно малое влияние слагаемых на рассеивание суммы.

На практике часто применяются формулы, в которых вместо суммы случайных величин ξ_i фигурирует их нормированная сумма

θ = = .

Очевидно,

M [ θ ]=0; D [ θ ]= σ_θ= 1.

И в этом случае закон распределения величины θ близок к нормальному с параметрами m_θ=0, σ_θ=1. Отсюда

P(α<θ<β)=Ф(β)-Ф(α).

Заметим, что центральная предельная теорема может применяться не только к непрерывным, но и к дискретным случайным величинам при условии, что мы будем оперировать не плотностями, а функциями распределения. Действительно, если величины ξ₁, ξ₂,..., ξ_п дискретны, то их сумма ξ - также дискретная случайная величина и поэтому, строго говоря, не может подчиняться нормальному закону. Однако все соотношения остаются в силе, так как в них фигурируют не плотности, а функции распределения. Можно доказать, что если дискретные случайные величины удовлетворяют условиям центральной предельной теоремы, то функция распределения их нормированной суммы θ при увеличении п неограниченно приближается к нормальной функции распределения с параметрами m_θ= 0, σ_θ= 1.

Частным случаем центральной предельной теоремы для дискретных случайных величин является теорема Лапласа.

Теорема. Если производится п независимых опытов, в каждом из которых событие А появляется с вероятностью р, то справедливо соотношение

P(α< <β)=Ф(β)-Ф(α).

где η - число появлений события А в п опытах, q=1-р.

Доказательство. Пусть производится п независимых опытов, в каждом из которых с вероятностью р может появиться событие А. Представим случайную величину η - общее число появлений события в п опытах - в виде суммы

η=

где ξ_i - число появлений события А в i -м опыте.

Согласно центральной предельной теореме, закон распределения суммы одинаково распределенных слагаемых при увеличении их числа приближается к нормальному закону. Следовательно, при достаточно большом п справедлива формула

P (α < θ < β)=Ф(β)-Ф(α),

где θ = .

Математическое ожидание и дисперсия числа появлений события в п независимых опытах равны:

т_η=пр, D_η=npq (q=1-р).

С учетом этого получим

θ = ,

и окончательно можно записать:

P (α < < β)=Ф(β)-Ф(α).

Теорема доказана.

 

§33. Цепи Маркова

 

Определение. Цепью Маркова называют последовательность испытаний, в каждом из которых появляется только одно из k несовместных событий А₁, A₂, ..., A_k полной группы, причем условная вероятность p_ij (s) того, что в s -м испытании наступит событие A_j (j=1,2,...,k), при условии, что в (s-1)- м испытании наступило событие A_i (i=1,2,...,k), не зависит от результатов предшествующих испытаний.

Например, если последовательность испытаний образует цепь Маркова и полная группа состоит из четырех несовместных событий А₁, A₂, A₃, A₄, причем известно, что в шестом испытании появилось событие A₂, то условная вероятность того, что в седьмом испытании наступит событие A₄, не зависит от того, какие события появились в первом, втором,..., пятом испытаниях.

Заметим, что независимые испытания являются частным случаем цепи Маркова. Действительно, если испытания независимы, то появление некоторого определенного события в любом испытании не зависит от результатов ранее произведенных испытаний. Отсюда следует, что понятие цепи Маркова является обобщением понятия независимых испытаний.

Далее используется терминология, которая принята при изложении цепей Маркова. Пусть некоторая система в каждый момент времени находится в одном из k состояний: первом, втором,..., k -м. В отдельные моменты времени в результате испытания состояние системы изменяется, т. е. система переходит из одного состояния, например i, в другое, например j. В частности, после испытания система может остаться в том же состоянии («перейти» из состояния i в состояние j = i).

Таким образом, события называют состояниями системы, а испытания - изменениями ее состояний.

Дадим теперь определение цепи Маркова, используя новую терминологию.

Определение. Цепью Маркова называют последовательность испытаний, в каждом из которых система принимает только одно из k состояний полной группы, причем условная вероятность p_ij (s)того, что в s -м испытании система будет находиться в состоянии j, при условии, что после (s-1)- го испытания она находилась в состоянии i, не зависит от результатов остальных, ранее произведенных испытаний.

Определение. Цепью Маркова с дискретным временем называют цепь, изменение состояний которой происходит в определенные фиксированные моменты времени.

Определение. Цепью Маркова с непрерывным временем называют цепь, изменение состояний которой происходит в любые случайные возможные моменты времени.

Определение. Однородной называют цепь Маркова, если условная вероятность p_ij (s)(перехода из состояния i в состояние j) не зависит от номера испытания. Поэтому вместо p_ij (s) пишут просто p_ij.

Пример. Случайное блуждание. Пусть на прямой OX в точке с целочисленной координатой x = n находится материальная частица. В определенные моменты времени t₁, t₂, t₃,... частица испытывает толчки. Под действием толчка частица с вероятностью р смещается на единицу вправо и с вероятностью 1-р - на единицу влево. Ясно, что положение (координата) частицы после толчка зависит от того, где находилась частица после непосредственно предшествующего толчка, и не зависит от того, как она двигалась под действием остальных предшествующих толчков.

Таким образом, случайное блуждание - пример однородной цепи Маркова с дискретным временем.

Далее ограничимся элементами теории конечных однородных цепей Маркова.

Определение. Переходной вероятностью p_ij называют условную вероятность того, что из состояния i (в котором система оказалась в результате некоторого испытания, безразлично какого номера) в итоге следующего испытания система перейдет в состояние j.

Таким образом, в обозначении p_ij первый индекс указывает номер предшествующего, а второй - номер последующего состояния. Например, р₁₁ - вероятность «перехода» из первого состояния в первое; р₂₃ - вероятность перехода из второго состояния в третье.

Пусть число состояний конечно и равно k.

Определение Матрицей перехода системы называют матрицу, которая содержит все переходные вероятности этой системы:

P₁ = .

Так как в каждой строке матрицы помещены вероятности событий (перехода из одного и того же состояния i в любое возможное состояние j), которые образуют полную группу, то сумма вероятностей этих событий равна единице. Другими словами, сумма переходных вероятностей каждой строки матрицы перехода равна единице:

=1 (i=1,2,…,k).

Приведем пример матрицы перехода системы, которая может находиться в трех состояниях:

P₁= .

Здесь р₁₁=0,5 - вероятность перехода из состояния i = 1 в это же состояние j = 1; p₂₁ = 0,4 - вероятность перехода из состояния i = 2 в состояние j = 1. Аналогичный смысл имеют остальные элементы матрицы.

Равенство Маркова.

 

Обозначим через Р_ij (п) вероятность того, что в результате п шагов (испытаний) система перейдет из состояния i в состояние j. Например, Р₂₅ (10) - вероятность перехода за 10 шагов из второго состояния в пятое.

Подчеркнем, что при п = 1 получим переходные вероятности

Р_ij (1)= p_ij.

Поставим перед собой задачу: зная переходные вероятности p_ij,найти вероятности Р_ij (п) перехода системы из состояния i в состояние j за п шагов. С этой целью введем в рассмотрение промежуточное (между i и j) состояние r. Другими словами, будем считать, что из первоначального состояния i за т шагов система перейдет в промежуточное состояние r с вероятностью P_ir (m), после чего за оставшиеся п - т шагов из промежуточного состояния r она перейдет в конечное состояние j с вероятностью P_rj (n-т).

По формуле полной вероятности,

Р_ij (п)= P_rj (n-т).

Эту формулу называют равенством Маркова (также данное соотношение называют формулой Чепмена-Колмогорова).

Пояснение. Введем обозначения: А - интересующее нас событие (за п шагов система перейдет из начального состояния i в конечное состояние j), следовательно, Р (А)= Р_ij (п); В_r (r=1,2,...,k)- гипотезы (за т шагов система перейдет из первоначального состояния i в промежуточное состояние r), следовательно, Р (B_r)= P_ir (m); P (A)- условная вероятность наступления А при условии, что имела место гипотеза В_r (за п - т шагов система перейдет из промежуточного состояния r в конечное состояние j), следовательно, P (A)= P_rj (n-т).

По формуле полной вероятности,

Р (А)= P (A),

или в принятых нами обозначениях

P_ij (n)= P_rj (n-т).

 

Покажем, что, зная все переходные вероятности p_ij = Р_ij (1), т. е. зная матрицу P₁ перехода из состояния в состояние за один шаг, можно найти вероятности Р_ij(2) перехода из состояния в состояние за два шага, следовательно, и саму матрицу перехода P₂; по известной матрице P₂ можно найти матрицу P₃ перехода из состояния в состояние за 3 шага, и т. д.

Действительно, положив n=2, т =1в равенстве Маркова

P_ij (n)= P_rj (n-т),

получим

P_ij(2) = P_rj(2-1),

или

P_ij(2)=

Таким образом, можно найти все вероятности Р _ij(2), следовательно, и саму матрицу P₂. Напишем полученное соотношение в матричной форме:

P₂=P₁P₁=P .

Положив п=3, т=2 аналогично получим

P₃=P₁P₂=P₁P =P .

В общем случае

P_n=P .

Пример. Задана матрица перехода P₁= . Найти матрицу перехода P₂= .

Решение. Воспользуемся формулой P₂=P :

P₂= .

Перемножив матрицы, окончательно получим

P₂= .