Числовые характеристики функций многих переменных

Пусть Y = j(x₁, x₂,…x_n), где Х₁, Х₂,…Х_n - случайные величины с известной совместной n-мерной плотностью вероятностей .

Начальные моменты:

Центральные моменты:

Основные числовые характеристики:

Ø Математическое ожидание функции от произвольного числа случайных аргументов. Для непрерывных величин:

,

где

- плотность распределения системы .

Ø Дисперсия функции от произвольного числа аргументов для непрерывных случайных величин

или аналогичная форма

На практике редко известна совместная плотность вероятности; известны лишь числовые характеристики. Определение числовых характеристик функций по заданным числовым характеристикам аргументам значительно упрощает решение задач теории вероятностей. Чаще всего такие упрощенные функции относятся к линейным функциям, однако некоторые элементарные нелинейные функции также подразумевают подобный подход.

Пусть известны векторы М [ х_i ] = m_i D [ х_i ]= D_i системы случайных величин (Х₁, Х₂,…Х_n) - с известной совместной n-мерной плотностью вероятностей , êêК_ijêê- корреляционная матрица

Задача определения числовых характеристик Y в таком случае разрешима только для определения классов функций j.

 

 

Характеристические функции и моменты

Характеристические функции

До сих пор мы задавали случайные величины законом распределения. Характеристическая функция - ещё один способ представления случайных величин.

Пусть X - случайная величина. Её характеристической функцией w (t) назовём математическое ожидание случайной величины e^itX:

w(t)= Me^itX,

где под комплексной случайной величиной e^itX мы понимаем комплексное число e^{it X} =cos(tX) + i sin(tX), а

M (e^itX)= M [cos(tX)+ iM[ sin(tX)];

независимая переменная t имеет размерность X ^-1.

Характеристическая функция - преобразование Фурье-Стилтьеса функции распределения:

.

В непрерывном случае w (t) - преобразование Фурье плотности вероятности:

Если w (t) абсолютно интегрируема, то обратное преобразование Фурье позволяет восстановить плотность f (x) по характеристической функции:

.

В дискретном случае:

.

Особо отметим дискретные случайные величины с целочисленными значениями, например, при x_k = k:

здесь w (t) - ряд Фурье в комплексной форме, вероятности p_k играют роль коэффициентов Фурье и легко восстанавливаются по f (t):

.

В общем случае восстановление закона распределения по характеристической функции тоже возможно, но более сложно.

 

Свойства характеристических функций

 

Важнейшим свойством характеристической функции, сделавшим её одним из главных инструментов современной теории вероятностей, оказалось то, что при суммировании независимых случайных величин их характеристические функции перемножаются: если X и Y независимы, то для случайной величины Z = X + Y: w_Z (t)= w_X (t)× w_Y (t).

Действительно,

w_Z (t)= M (e^itZ)= M (e^{it ( X + Y )})= M (e^itX × e^itY)= M (e^itX)× M (e^itY)= w_X (t)× w_Y (t).

Законы распределения при суммировании независимых слагаемых ведут себя гораздо сложнее (см. Л12, закон распределения суммы случайных величин).

Если Y = aX + b, то

w_Y (t)= M (e^{it (aX + b )})= e^itb × M (e^itaX)= e^itb × w_X (at).

Другим важным свойством характеристических функций является их простая связь с моментами.

Предполагая возможность дифференцирования под знаком математического ожидания в равенстве w (t)= Me^itX, получим:

w ^(k)(t)= i^kM (X^k × e^itX).

При t =0:

Таким образом, характеристическая функция позволяет заменить интегрирование при вычислении моментов дифференцированием.

В частности,

Характеристическую функцию определяют также и для n -мерной случайной величины (X ₁, X ₂,, ¼, X_n):

w (t ₁, t ₂,, ¼, t_n)= M (exp i (t ₁ X ₁+ t ₂ X ₂+¼+ t_nX_n)).

Примеры применения характеристических функций

14.3.1.. Биноминальное распределение. Пусть дискретная случайная величина имеет биноминальное распределение X:B (n, p).

.

Дифференцирование даёт:

.

14.3.2. Пуассоновское распределение. Пусть дискретная случайная величина имеет пуассоновское распределение X:P(l).

.

Отсюда сразу найдём: M [ X ]=l, D[ X ]=l.

14.3.3. Экспоненциальный закон распределения. Пусть непрерывная случайная величина имеет экспоненциальное распределение X:Exp(m).

.

Из этого равенства следует:

14.4. Нормальный закон распределения. Пусть непрерывная случайная величина имеет нормальное распределение X:N(0, 1).

Примем во внимание, что e^itx =cos(tx) + i sin(tx):

Второй из этих интегралов равен нулю, так как его подынтегральная функция нечётна. Ввиду чётности подынтегральной функции первого интеграла:

.

Обозначим:

.

Очевидно,

;

интегрируем по частям:

Таким образом,

J’ (t)=- tJ (t), и J (0)= .

Решение этого дифференциального уравнения дает:

Окончательно:

w (t)= .

Тогда для нормально распределенной случайной величины X:N(a, s):

и сразу же находим: M[ X ]= a, D[ X ]=s².

По поводу характеристической функции нормального закона можно заметить интересное его свойство:

сумма независимых нормально распределённых случайных величин распределена по нормальному закону.

Действительно. Пусть X и Y независимые случайные величины, причём,

X: N (a ₁, s₁), Y:N (a ₂, s₂), а Z = X + Y.

Характеристические функции X и Y:

w_X (t)= , w_Y (t)= .

Для характеристической функции Z имеем:

w_Z (t)= w_X (t)× w_Y (t)=exp[ i (a ₁+ a ₂) t - t ²],

но это означает, что

Аналогичным свойством обладают и независимые пуассоновские случайные величины:

сумма независимых случайных величин, распределённых по закону Пуассона, распределена по закону Пуассона.

В самом деле, если X: P(l₁), X: P(l₂), то

w_X (t)=exp[l₁(e^it -1)], w_Y (t)=exp[l₂(e^it -1)],

поэтому характеристическая функция случайной величины Z = X + Y:

w_Z (t)= w_X (t)× w_Y (t)=exp[(l₁+l₂)(e^it -1)],

но это значит, что Z: P(l₁+l₂).

Законы, сохраняющиеся при сложении независимых случайных величин, называются безгранично делимыми. Нормальный и пуассоновский - примеры таких законов.

 

 

ЗАКОН БОЛЬШИХ ЧИСЕЛ

Пусть проводится опыт Е, в котором нас интересует признак Х, или СВ Х. При однократном проведении Е нельзя заранее сказать, какое значение примет Х. Но при n -кратном повторении «среднее» значение величины Х (среднее арифметическое) теряет случайный характер и становится близким к некоторой константе.

Закон больших чисел – совокупность теорем, определяющих условия стремления средних арифметических значений случайных величин к некоторой константе, при увеличении числа опытов до бесконечности (n®¥).

 

НЕРАВЕНСТВА ЧЕБЫШЕВА

Теорема. Для любой случайной величины X с m_x, D_x выполняется следующее неравенство где e>0.

Доказательство:

1. Пусть величина Х – ДСВ. Изобразим значения Х и М_х в виде точек на числовой оси Ох

 

0 х₁ А М_х В

Вычислим вероятность того, что при некотором величина Х отклонится от своего МО не меньше чем на ε:

.

Это событие заключается в том, что точка Х не попадет на отрезок [ m_x-ε, m_x+ε ], т.е.

--

для тех значений x, которые лежат вне отрезка [ m_x-ε, m_x+ε ].

Рассмотрим дисперсию с.в. Х:

.

Т.к. все слагаемые – положительные числа, то если убрать слагаемые, соответствующую отрезку [ m_x-ε, m_x+ε ], то можно записать:

,

т.к. , то неравенство можно усилить

Þ Þ

2. Для НСВ:

- это интегрирование по внешней части отрезка [ m_x-ε, m_x+ε ].

Применяя неравенство и подставляя его под знак интеграла, получаем

.

Откуда и вытекает неравенство Чебышева для НСВ.

Следствие. - это 2-е неравенство Чебышева.

Доказательство: События и - противоположны Þ .

==================================================================================

1. Лемма: Пусть Х –СВ, e>0 – любое число. Тогда

Доказательство:

,

Т.к. .

Следствие. .

Д-во: Полагаем, вместо св Х – св Х-М(Х), т.к. М(Х-М(Х))²⁼D(X) и получаем неp-во.

Следствие: (правило трех сигм для произвольного распределения):

Полагаем в неравенстве Чебышева , имеем

.

Т.е. вероятность того, что отклонение св от ее МО выйдет за пределы трех СКО, не больше 1/9.

Неравенствово Чебышева дает только верхнюю границ вероятности данного отклонения. Выше этой границы - значение не может быть ни при никаком распределении.

СХОДИМОСТЬ ПО ВЕРОЯТНОСТИ

 

Последовательность случайных величин X_nсходится по вероятности к величине a, если при увеличении n вероятность того, что X_n и a будут сколь угодно близки, неограниченно приближается к единице:

где e,d - произвольно малые положительные числа.

Одна из важнейших, но наиболее важных форм закона больших чисел – теорема Чебышева – она устанавливает связь между средним арифметическим наблюденных значений СВ и ее МО.

 

ТЕОРЕМА ЧЕБЫШЕВА

Первая теорема Чебышева. При достаточно большом числе независимых опытов среднее арифметическое значений случайной величины сходится по вероятности к ее математическому ожиданию:

Доказательство: Рассмотрим величину У равную

.

Определим числовые характеристики Y_n m_y и D_Y.

Запишем неравенство Чебышева для величины Y_n

Как бы ни было мало число e, можно взять n таким большим, чтобы выполнялось неравенство , где - сколь угодно малое число. Тогда

.

Переходя к противоположному событию:

Т.е. вероятность может быть сколь угодно близкой к 1.

Вторая теорема Чебышева: Если Х₁.....Х_n – последовательность попарно независимых СВ с МО m_x1....m_xn и дисперсиями D_x1..D_xn ограничены одним и тем же числом D_xi<L (i=1..n), L=const, тогда для любого e, d> 0 – бесконечно малых

или

Доказательство: Рассмотрим СВ

.

Применим к Y неравенство Чебышева:

или

Заменим:

Как бы ни было мало число e, можно взять n таким большим, чтобы выполнялось неравенство , где - сколь угодно малое.

Т.е., взяв предел при n®¥ от обеих частей и получаем:

(так как вероятность не может быть больше 1).

 

Пример. Производится большое число n независимых опытов, в каждом из которых некоторая случайная величина имеет равномерное распределение на участке [1,2]. Рассматривается среднее арифметическое наблюденных значений случайной величины X. На основании Закона больших чисел выяснить, к какому числу а будет приближаться величина Y при n→∞. Оценить максимальную практически возможную ошибку равенства Y≈a.

Решение. .

.

.

Максимальное практически возможное значение ошибки .

ТЕОРЕМА БЕРНУЛЛИ

 

Пусть произведены n независимых опытов, в каждом из которых возможно событие А с вероятностью р. Тогда относительная частота появления события А в n опытах стремится по вероятности к вероятности появления А в одном опыте.

Теорема Бернулли: При неограниченном увеличении числа опытов до n частота события А сходится по вероятности к его вероятности р: ,

где -- частота события А в n опытах, где m -число опытов в которых произошло событие А, n -число проведенных опытов или

или .

Событие Х_i – число появлений события А в i-м опыте. СВ X может принимать только два значения: X=1 (событие наступило) и X=0 (событие не наступило). Пусть СВ Х_i – индикатор события А в i-м опыте. Числовые характеристики х_i: m _i = p D_i = pq.

Они независимы, следовательно, можем применить теорему Чебышева:

Дробь равна относительной частоте появлений события А в испытаниях Þ получаем

.

Пояснения: В теореме речь идет лишь о вероятности того, что при достаточно большом числе испытаний относительная частота будет как угодно мало отличаться от постоянной вероятности появления события в каждом испытании.

Теорема Бернулли объясняет, почему относительная частота при достаточно большом числе испытаний обладает свойством устойчивости и оправдывает статистическое определение вероятности: в качестве статистической вероятности события принимают относительную частоту или число, близкое к ней.