Сравнение выборочной средней с математическим ожиданием

 

Вы́борочное (эмпири́ческое) сре́днее — это приближение теоретического среднего распределения, основанное на выборке из него.

Определение

Пусть — выборка из распределения вероятности, определённая на некотором вероятностном пространстве . Тогда её выборочным средним называется случайная величина

Свойства выборочного среднего

Пусть F(x) — выборочная функция распределения данной выборки. Тогда для любого фиксированного функция F(w;x) является (неслучайной) функцией дискретного распределения. Тогда математическое ожидание этого распределения равно X(w). Выборочное среднее — несмещённая оценка теоретического среднего:

Выборочное среднее — сильно состоятельная оценка теоретического среднего: почти наверное при . Выборочное среднее — асимптотически нормальная оценка. Пусть дисперсия случайных величин Xi конечна и ненулевая, то есть . Тогда

по распределению при , где N(0,у2) — нормальное распределение со средним 0 и дисперсией у2.

Выборочное среднее из нормальной выборки — эффективная оценка её среднего.

Математи́ческое ожида́ние — мера среднего значения случайной величины в теории вероятностей. В англоязычной литературе и в математическом сообществе Санкт-Петербурга обозначается через E[X](например, от англ. Expected value или нем. Erwartungswert), в русской — M[X] (возможно, от англ. Mean value, а возможно от русск. Математическое ожидание). В статистике часто используют обозначение м.

Определение

Пусть задано вероятностное пространство и определённая на нём случайная величина X. То есть, по определению, — измеримая функция. Если существует интеграл Лебега от X по пространству Щ, то он называется математическим ожиданием, или средним (ожидаемым) значением и обозначается M[X] или E[X].

Основные формулы для математического ожидания

Если FX(x) — функция распределения случайной величины, то её математическое ожидание задаётся интегралом Лебега — Стилтьеса:

.

Математическое ожидание дискретного распределения

Если X — дискретная случайная величина, имеющая распределение , то прямо из определения интеграла Лебега следует, что . Математическое ожидание целочисленной величины

Если X — положительная целочисленная случайная величина (частный случай дискретной), имеющая распределение вероятностей

то её математическое ожидание может быть выражено через производящую функцию последовательности {pi} как значение первой производной в единице: M[X] = P'(1). Если математическое ожидание X бесконечно, то и мы будем писать

Теперь возьмём производящую функцию Q(s) последовательности «хвостов» распределения {qk}

Эта производящая функция связана с определённой ранее функцией P(s) свойством: при | s | < 1. Из этого по теореме о среднем следует, что математическое ожидание равно просто значению этой функции в единице:

M[X] = P'(1) = Q(1)

Математическое ожидание абсолютно непрерывного распределения

Математическое ожидание абсолютно непрерывной случайной величины, распределение которой задаётся плотностью fX(x), равно . Математическое ожидание случайного вектора

Пусть — случайный вектор. Тогда по определению , то есть математическое ожидание вектора определяется покомпонентно.

Математическое ожидание преобразования случайной величины

Пусть — борелевская функция, такая что случайная величина Y = g(X) имеет конечное математическое ожидание. Тогда для него справедлива формула:

,

если X имеет дискретное распределение;

,

если X имеет абсолютно непрерывное распределение.

Если распределение P^xслучайной величины X общего вида, то . В специальном случае, когда g(X) = Xk, Математическое ожидание называется k-тым моментом случайной величины.

Простейшие свойства математического ожидания

Математическое ожидание числа есть само число.

M[a] = a — константа;

Математическое ожидание линейно, то есть

M[aX + bY] = aM[X] + bM[Y],

где X,Y — случайные величины с конечным математическим ожиданием, а — произвольные константы;

Математическое ожидание сохраняет неравенства, то есть если почти наверное, и Y — случайная величина с конечным математическим ожиданием, то математическое ожидание случайной величины X также конечно, и более того

;

Математическое ожидание не зависит от поведения случайной величины на событии вероятности нуль, то есть если X = Y почти наверное, то

M[X] = M[Y].

Математическое ожидание произведения двух независимых случайных величин X,Y равно произведению их математических ожиданий

M[XY] = M[X]M[Y].

 

Вопрос 24.