Определение случайного процесса. Основные подходы к заданию

Глава 1. Основные понятия теории случайных процессов

Определение случайного процесса. Основные подходы к заданию

Случайных процессов. Понятие реализации и сечения.

Элементарные случайные процессы.

Случайным (стохастическим, вероятностным) процессом называется функция действительного переменного t, значениями которой являются соответствующие случайные величины X(t).

В теории случайных процессов t трактуется как время, принимающее значения из некоторого подмножества Т множества действительных чисел (t T, T R).

В рамках классического математического анализа под функцией y=f(t) понимается такой тип зависимости переменных величин t и y, когда конкретному числовому значению аргумента t соответствует и притом единственное числовое значение функции y. Для случайных процессов ситуация принципиально иная: задание конкретного аргумента t приводит к появлению случайной величины X(t) с известным законом распределения (если это дискретная случайная величина) или с заданной плотностью распределения (если это непрерывная случайная величина). Другими словами, исследуемая характеристика в каждый момент времени носит случайный характер с неслучайным распределением.

Значения, которые принимает обычная функция y=f(t) в каждый момент времени, полностью определяет структуру и свойства этой функции. Для случайных процессов дело обстоит совершенно иным образом: здесь совершенно не достаточно знать распределение случайной величины X(t) при каждом значении t, необходима информация об ожидаемых изменениях и их вероятностях, то есть информация о степени зависимости предстоящего значения случайного процесса от его предыстории.

Наиболее общий подход в описании случайных процессов состоит в задании всех его многомерных распределений, когда определена вероятность одновременного выполнения следующих событий:

t₁, t₂,…,t_n T, n N: X(t_i) ≤ x_i; i=1,2,…,n;

F(t₁;t₂;…;t_n;x₁;x₂;…;x_n) = P(X(t₁)≤x₁; X(t₂)≤x₂;…; X(t_n)≤x_n).

Такой способ описания случайных процессов универсален, но весьма громоздок. Для получения существенных результатов выделяют наиболее важные частные случаи, допускающие применение более совершенного аналитического аппарата. В частности, удобно рассматривать случайный процессX(t, ω) как функцию двух переменных: t T, ω Ω, которая при любом фиксированном значении t T становится случайной величиной, определенной на вероятностном пространстве (Ω, AА, P), где Ω - непустое множество элементарных событий ω; AА - σ-алгебра подмножеств множества Ω, то есть множество событий; P - вероятностная мера, определенная на AА.

Неслучайная числовая функция x(t)=X(t, ω₀) называется реализацией (траекторией) случайного процесса X(t, ω).

Сечением случайного процесса X(t, ω) называется случайная величина, которая соответствует значению t=t₀.

Если аргумент t принимает все действительные значения или все значения из некоторого интервала T действительной оси, то говорят о случайном процессе с непрерывным временем. Если t принимает только фиксированные значения, то говорят о случайном процессе с дискретным временем.

Если сечение случайного процесса - дискретная случайная величина, то такой процесс называется процессом с дискретными состояниями. Если же любое сечение - непрерывная случайная величина, то случайный процесс называется процессом с непрерывными состояниями.

В общем случае задать случайный процесс аналитически невозможно. Исключение составляют так называемые элементарные случайные процессы, вид которых известен, а случайные величины входят как параметры:

X(t)=Х(t,A₁,…,A_n), где A_i, i=1,…,n - произвольные случайные величины с конкретным распределением.

 

Пример 1. Рассматривается случайный процесс X(t)=A·e^-t, где А - равномерно распределенная дискретная случайная величина, принимающая значения {-1;0;1}; t≥0. Изобразить все его реализации случайного процесса X(t) и показать сечения в моменты времени t₀=0; t₁=1; t₂=2.

 

Решение.

Данный случайный процесс является процессом с непрерывным временем и дискретными состояниями. При t=0 сечением случайного процесса X(t) является дискретная случайная величина А{-1;0;1}, распределенная равномерно.

При t=0 сечением случайного процесса X(t) является дискретная случайная величина А{-1;0;1}, распределенная равномерно.

При t=1 сечением случайного процесса X(t) является дискретная случайная величина {-1/е;0;1/е}., распределенная равномерно.

При t=2 сечением случайного процесса X(t) является дискретная случайная величина {-1/е²;0;1/е²}., распределенная равномерно.

 

 

Пример 2. Рассматривается случайный процесс X(t)=sin At, где А - дискретная случайная величина, принимающая значения {0;1;2}; аргумент t принимает дискретные значения {0; π/4; π/2; π }. Изобразить графически все реализации и сечения данного случайного процесса.

 

Решение.

Данный случайный процесс является процессом с дискретным временем и дискретными состояниями.

 

 

 

 

Процессов

Функция вида

Функция вида

Решение.

Математическое ожидание: m_Y(t)=M(Xe^-t)=e^-tm_X=me^-t.

Дисперсия: D_Y(t)=D(Xe^-t)=e^-2t DX=σ²e^-2t.

Стандартное отклонение:

Корреляционная функция: K_Y(t₁; t₂)=M((X e^-t1-m e^-t1)×(X e^-t2-m e^-t2))=

= e^-(t1+t2) M(X-m)²=σ² e^-(t1+t2).

Нормированная корреляционная функция:

По условию задачи случайная величина X распределена нормально; при фиксированном значении t сечение Y(t) линейно зависит от случайной величины X, и по свойству нормального распределения сечение Y(t) также распределено нормально с одномерной плотностью распределения:

 

Пример 4. Найти основные характеристики случайного процесса Y(t)=W×e^-Ut (t>0), где W и U - независимые случайные величины; U распределена равномерно на отрезке [0; а]; W имеет математическое ожидание m_W и стандартное отклонение σ_W.

 

Решение.

Математическое ожидание: m_Y(t)=M(We^-Ut)=MW×M(e^-Ut)=m_w×*M(e^-Ut);

, (t>0).

Корреляционная функция:

так как

то

Дисперсия:

 

 

Пример 5. Найти одномерный закон распределения случайного процесса: Y(t)=Vcos(Ψt-U), где V и U независимые случайные величины; V нормально распределена с параметрами (m_V; σ_V); Ψ-const; U- равномерно распределена на отрезке [0; 2π].

 

Решение.

Математическое ожидание случайного процесса Y(t):

Дисперсия:

Стандартное отклонение:

Переходим к выводу одномерного закона распределения. Пусть t-фиксированный момент времени, и случайная величина U принимает фиксированное значение U=u - const; u [0; 2π], тогда получаем следующие условные характеристики случайного процесса Y(t):

M(Y(t)| U=u)=m_V×cos(Ψt-u);

D(Y(t)| U=u)= ×cos²(Ψt-u);

σ(Y(t)| U=u)= ×|cos(Ψt-u)|.

Так как случайная величина V распределена нормально и при заданном значении случайной величины U=u все сечения линейно зависимы, то условное распределение в каждом сечении является нормальным и имеет следующую плотность:

Безусловная одномерная плотность случайного процесса Y(t):

Очевидно, что это распределение уже не является нормальным.

 

Сходимость и непрерывность

Сходимость по вероятности.

Говорят, что последовательность случайных величин {Х_n} сходится по вероятности к случайной величине Х при n®¥, если

Обозначение:

Обратите внимание, что при n®¥ имеет место классическая сходимость вероятности к 1, то есть с возрастанием номера n можно гарантировать сколь угодно близкие к 1 значения вероятности. Но при этом нельзя гарантировать близости значений случайных величин Х_n к значениям случайной величины Х ни при каких сколь угодно больших значениях n, поскольку мы имеем дело со случайными величинами.

 

Случайный процесс X(t), t T называется стохастически непрерывным в точке t₀ T, если

3. Сходимость в среднем в степени p³1.

Говорят, что последовательность случайных величин {X_n} сходится в среднем в степени p³ 1 к случайной величине Х, если

Обозначение: X_n X.

В частности, {X_n} сходится в среднеквадратичном к случайной величине Х, если

Обозначение:

Случайный процесс X(t), t T называется непрерывным в среднеквадратичном в точке t₀ T, если

4. Сходимость почти наверное (сходимость с вероятностью единица).

Говорят, что последовательность случайных величин {Х_n} сходится почти наверное к случайной величине Х, если

где ωÎW - элементарное событие вероятностного пространства (W, AА, Р).

Обозначение: .

Слабая сходимость.

Говорят, что последовательность { F_Xn(x)} функций распределения случайных величин Х_n слабо сходится к функции распределения F_X(x) случайной величины Х, если имеет место поточечная сходимость в каждой точке непрерывности функции F_X(x).

 

Обозначение: F_Xn(x)Þ F_X(x).

 

 

Решение.

1) Математическое ожидание, дисперсия, стандартное отклонение, корреляционная функция и нормированная корреляционная функция случайного процесса X(t) имеют вид (см. Пример 3):

2) Переходим к расчету характеристик случайного процесса X^’(t). В соответствии с Tтеоремами 1-3 получаем:

 

За исключением математического ожидания (которое поменяло знак), все остальные характеристики сохранились полностью. Взаимные корреляционные функции случайного процесса X(t) и его производной X^’(t) имеют вид:

3) В соответствии с Теоремами 41-64 основные характеристики интеграла от случайного процесса X(t) имеют следующие значения:

D (t1;t2)=?????????????

Взаимные корреляционные функции случайного процесса X(t) и его интеграла Y(t):

 

Выражение вида

,

где φ_ik(t), k=1;2;…-неслучайные функции; V_i, k=1;2;…-некоррелированные центрированные случайные величины, называется каноническим разложением случайного процесса X(t), при этом случайные величины V_i называются коэффициентами канонического разложения; а неслучайные функции φ_ki(t) - координатными функциями канонического разложения.

Рассмотрим характеристики случайного процесса

Так как по условию то

Очевидно, что один и тот же случайный процесс имеет различные виды канонического разложения в зависимости от выбора координатных функций. Более того, даже при состоявшемся выборе координатных функций существует произвол в распределении случайных величин V_к. На практике по итогам экспериментов получают оценки для математического ожидания и корреляционной функции: . После разложения в двойной ряд Фурье по координатным функциям φ_к(t):

получают значения дисперсий D_Vk случайных величин V_k.

 

Пример 7. Случайный процесс Х(t) имеет следующее каноническое разложение: , где V_k-нормально распределенные некоррелированные случайные величины с параметрами (0; σ_к); m₀(t) - неслучайная функция. Найти основные характеристики случайного процесса Х(t), включая плотности распределения.

 

Решение.

Из полученных ранее общих формул имеем:

В каждом сечении случайный процесс Х(t) имеет нормальное распределение, так как является линейной комбинацией некоррелированных нормально распределенных случайных величин V_k, при этом одномерная плотность распределения имеет вид:

Двумерный закон распределения также является нормальным и имеет следующую двумерную плотность распределения:

 

Пример 8. Известныо математическое ожидание m_X(t) и корреляционная функция К_X(t₁;t₂)=t₁t₂ случайного процесса Х(t), где . Найти каноническое разложение Х(t) по координатным функциям при условии, что коэффициенты разложения V_k - нормально распределенные случайные величины.

 

Решение.

Корреляционная функция имеет следующее разложение

_,

следовательно,

;

;

 

;

Так как ,

то ; .

 

Плотность распределения случайных величин V_k:

Каноническое разложение случайного процесса Х(t) имеет вид:

.

 

Узком и широком смыслах.

 

Значительное число происходящих в природе событий, в частности, связанных с эксплуатацией технических устройств, носит «почти» установившиейся характер, то есть картина таких событий, подверженных незначительным случайным флуктуациям, тем не менее, в целом с течением времени сохраняется. В этих случаях принятно говорить о стационарных случайных процессах.

Например, летчик выдерживает заданную высоту полета, но разнообразные внешние факторы (порывы ветра, всходящие потоки, изменение тяги двигателей и т.п.) приводят к тому, что высота полета колеблется около заданного значения. Другим примером могла бы служить траектория движения маятника. Если бы он был предоставлен сам себе, то при условии отсутствия систематических факторов, приводящих к затуханию колебаний, маятник находился бы в режиме установившихся колебаний. Но различные внешние факторы (порывы ветра, случайные колебания точки подвеса и т.п.), не меняя в целом параметров колебательного режима, тем не менее делают характеристики движения не детерминированными, а случайными.

 

Стационарным (однородным во времени) называют случайный процессСП, статистические характеристики которого не меняются с течением времени, то естьт.е. являются инвариантными относительно временных и сдвигов.

Различают случайные процессыСП стационарные в широком и узком смысле.

 

Таких, что

Выполняется условие

F(t₁; t₂;…;t_n; x₁; x₂;…; x_n)=F(t₁+τ; t₂+τ;…;t_n+τ; x₁; x₂;…; x_n),

и, следовательно, все n-мерные распределения зависят не от моментов времени t₁; t₂;…;t_n, а от n-1 длительности временных промежутков τ_i;:

 

В частности, одномерная плотность распределения вообще не зависит от времени t:

двумерная плотность сечений в моменты времени t₁ и t₂

n-мерная плотность сечений в моменты времени t₁; t₂...; t_n:

Случайный процессСП Хx(t) называется стационарным в широком смысле, если его моменты первого и второго порядка инвариантны относительно временного сдвига, то есть его математическое ожидание не зависит от времени t и является константой, а корреляционная функция зависит только от длины временного промежутка между сечениями:

Очевидно, что стационарный случайный процессССП в узком смысле является стационарным случайным процессомССП и в широком смысле;, обратное утверждение не верно.

 

 

ПроцессаССП

1.

 

2. 3. Корреляционная функция стационарного случайного процессаССП четна:

поскольку она обладает следующей симметрией

4. Дисперсия стационарного случайного процесса ССП есть константа, равная

знзнаачению ее корреляционной функции в точке :

5.

 

6. Корреляционная функция стационарного случайного процессаССП является

положительно определенной, то есть

.е.

Нормированная корреляционная функция стационарного случайного процессаССП также четна, положительно определена и при этом

 

Пример 11. Найти характеристики и сделать вывод о типе случайного процессаСП Хx(t):

гГде U₁ иb U₂ - некоррелированные случайные величиныСВ;

 

Решение.

Следовательно, случайный процесс Х(t) является стационарным в широком смысле. Как следует из Ппримера 10…,, если U₁ и U₂ независимые, центрирование и нормально распределенные случайные величиныСВ, то случайный процессСП также является стационарным в широком смысле.

 

Пример 12. … Доказать, стационарность в широком смыслечто случайного процессаСП Хx(t) является стационарным в широком смысле:

где V и независимые случайные величиныСВ; MV=m_vV - const; - норравномерномально распределенная на отрезке случайная величинаСВ;

 

Решение.

Запишем Хx(t) следующим образом:

Так как случайная величина равномерно распределена на отрезке , то плотность распределения имеет вид:

следовательно,

Получаем

Так как cлучайный процессСП Хx(t) имеет постоянные математическое ожидание и дисперсию, а корреляционная функция является функцией , то вне зависимости от закона распределения случайной величиныСВ V М случайный процессСП Х x(t) является стационарным в широком смысле.

 

 

Стационарно связанные СП

Cлучайные процессыСП X(t)X(t) и Y(t)Y(t) называются стационарно связанными, если их взаимная корреляционная функция зависит только от разности аргументов τ =t₂-t₁:

R_xXYy(t₁;t₂)=r_xXYy(τ).

Стационарность самих случайных процессов СП X(t) X(t) и Y(t) Y(t) не означает их стационарной связанности.

Отметим основные свойства стационарно связанных случайных процессовСП, производной и интеграла от стационарных случайных процессовССП,

1) 1) rR_xXYy(τ)=rR_yYXx(-τ).

2) 2)

3) 3)

4)4)

где

5) 5) где

6) 6) ;

 

Пример 13. Корреляционная функция стационарного случайного процессаССП X(t) X(t) имеет вид

 

Найти корреляционные функции, дисперсии, взаимные корреляционные функции случайных процессовСП X(t), X’(t), .

Решение.

Ограничимся анализом случая значениями D_xХ(t)=1.

Далее без комментариев:

Воспользуемся следующим соотношением:

Получаем:

 

Обратите внимание, что в результатепри дифференцированияи стационарный случайный процессССП X(t) переходит в стационарный случайный процессССП X’(t) , при этом X(t) и X’(t) стационарно связаны. При интегрировании стационарного случайного процессаССП X(t) возникает нестационарный случайный процессСП Y(t), и при этом X(t) и Y(t) не являются стационарно связанными.

 

 

И их характеристики

 

Среди стационарных случайных процессовССП есть особый класс процессов, называемых эргодическими, которые обладают следующими свойствоами: их характеристики, полученные усреднением множества всех реализаций,совпадают с соответствующими характеристиками, полученными усреднением по времени одной реализации, наблюдаемой на интервале (0, T) достаточно большой продолжительности. То есть на достаточнобольшом временном промежутке любая реализация проходит через любое состояние независимо от того, каково было исходное состояние системы при t=0; и в этом смысле любая реализация полностью представляет всю совокупность реализаций.

 

 

Нем,

для ССП с дискретным временем.

Если при этом X(t) – эргодический стационарный случайный процессССП, то

 

В условии теоремы - условное математическое ожидание случайного процессаСП X(t)относительно JY_x; JY_x – G-алгебра инвариантных по отношению к X(t)событий; событие А называется инвариантным относительно X(t), если B такое, что A={ω: X(ω,t) B}.

 

 

Решение.

ППо смыслу задачи события в потоке

происходят в произвольные моментты

времени (см. рис.), поэтому для любого

значения t с равной вероятностью ½ СП

X(t) может принимать значения и +а, и –а;

Поэтому одномерный закон распределе-

ния каждого сечения очевиден (см. таб-

лицу).

Получаем

 

mM_xХ(t)=-a·0,5+a·0,5=0;

D_xХ(t)=(-a)²·0,5+a²·0,5=a².

 

X(t)	-a	+a
P	0,5	0,5

 

 

Корреляционная функция имеет вид:

K_X(t₁;t₂)=M((X(t₁)-m_X)×(X(t₂)-m_X))=

=M(X(t₁)X(t₂)).

Произведение X(t₁)X(t₂) может принимать только два значения:

1) –а², если в интервале (t₁, t₂) в простейшем потоке произошло нечетное число событий;

2) а², если в интервале (t₁, t₂) в потоке происходит четное число событий.

Вероятность k К событий на временном промежутке τ=t₂-t₁ (τ≥0) в простейшем потоке с интенсивностью λ находится по формуле Пуассона:

Поэтому полная вероятность всех четных kK имеет вид:

Получаем следующее значение корреляционной функции:

(τ≥0).

Окончательно,

kK_X(τ)→0 при τ→∞,

то есть случайный процессСП X(t ) стационарен и эргодичен.

 

Пример 16. По заданной реализации эргодического случайного процесса X(t) найти приближенные значения его характеристик.

Решение.

Временной интервал (0;20) разобьем на 10 интервалов точками

0, 2, 4,…, 20. В качестве расчетных моментов времени выбираем середины полученных интервалов:

i
ti
X(ti)						-2	-3	-2	-1
X2(ti)

 

Математическое ожидание:

Дисперсия:

Корреляционная функция:

m=0: k K_X(0)≈D_X=6,65

m=1:

m=2:

m=3:

m=4:

m=5:

m=6: =

m=7:

m=8:

m=9:

 

 

Процессов

ССП

Случайный процесс X(t) вида

X(t)=Ucosωt+Vsinωt,

где U и V – центрированные некоррелированные случайные величиныСВ; DU=DV=σ², ω – const; называется элементарным стационарным случайным процессомСП.

Как следует из Примера 11,

m_X(t)=0; K_X(t₁;t₂)=kK_X(τ)=σ²cosωτ, τ=t₂-t₁; D_X(t)=σ²,

следовательно, X(t) – стационарный в широком смысле случайный процессСП. Часто его записывают в виде гармоники

,

со случайной амплитудой , случайной фазой ωt+arctgU/V и частотой ω.

 

Теорема Винера-Хинчина.

Пусть X(t) - стационарный случайный процессССП с непрерывным временем, тогда существует и притом единственная ограниченная монотонно неубывающая функция S*(ω) такая, что корреляционная функция имеет вид.ф. имеет вид:

Если функция S*(ω) дифференцируема:

,

то имеюет место так называемые формулы Винера-Хинчина:

 

Функция S*(ω) называется спектральной плотностью стационарного случайного процессаССП X(t) в комплексной форме.

Функция , ω≥0 называется спектральной плотностью стационарного случайного процесса ССП X(t).

 

 

Спектральная плотность sS_X(ω) и корреляционная функция kK_X(τ) связаны прямым и обратным косинус-преобразованием Фурье:

; .

 

Функция вида

Решение.

а)

следовательно,

.

Так как ω₀>0, ω≥0, то ω+ ω₀>0; δ(ω+ ω₀)=0.

Окончательно получаем

sS_X(ω)=σ²δ(ω-ω₀).

Заметим, что в случае ω₀=0:

X’(t)=U; m_X=0; kK_X(τ)=σ²; sS_X(ω)=σ² δ(ω).

 

б) В соответствии с теорией

,

пПоэтому по аналогии с предыдущей задачей получаем

.

Обратите внимание на следующий факт: если случайный процессСП является суммой счетного числа гармоник, то есть имеет дискретный спектр, то