Аналоговое и числовое кодирование. Единицы измерения объемов информации. Характерные объемы и информации и скорости их обработки. Информационная избыточность. Архивация и сжатие информации.

Распределение Бернулли, Биномиальное распределение. Распределение Пуассона. Определение и свойства.

 

Распределение Бернулли, Биномиальное распределение. Распределение Пуассона. Определение и свойства.

Распределе́ние Берну́лли в теории вероятностей и математической статистике — дискретное распределение вероятностей, моделирующее случайный эксперимент произвольной природы, при заранее известной вероятности успеха или неудачи.

Определение

Случайная величина имеет распределение Бернулли, если она принимает всего два значения: и с вероятностями и соответственно. Таким образом:

,

.

Принято говорить, что событие соответствует «успеху», а событие — «неудаче». Эти названия условные, и в зависимости от конкретной задачи могут быть заменены на противоположные.

Распределение Бернулли
Функция вероятности
Функция распределения
Обозначение
Параметры
Носитель
Функция вероятности
Функция распределения
Математическое ожидание
Медиана
Мода
Дисперсия
Коэффициент асимметрии
Коэффициент эксцесса
Информационная энтропия
Производящая функция моментов
Характеристическая функция

 

Биномиа́льное распределе́ние в теории вероятностей — распределение количества «успехов» в последовательности из независимых случайных экспериментов, таких, что вероятность «успеха» в каждом из них постоянна и равна .

Определение

Пусть — конечная последовательность независимых случайных величин, имеющих одинаковое распределение Бернулли с параметром , то есть при каждом величина принимает значения («успех») и («неудача») с вероятностями и соответственно. Тогда случайная величина

имеет биномиальное распределение с параметрами и . Это записывается в виде:

.

Случайную величину обычно интерпретируют как число успехов в серии из одинаковых независимых испытаний Бернулли с вероятностью успеха в каждом испытании.

Функция вероятности задаётся формулой:

где

 

— биномиальный коэффициент.

Функция распределения

Функция распределения биномиального распределения может быть записана в виде суммы:

,

где обозначает наибольшее целое, не превосходящее число , или в виде неполной бета-функции:

.

Моменты

Производящая функция моментов биномиального распределения имеет вид:

,

откуда

,

,

а дисперсия случайной величины.

.

Свойства биномиального распределения

• Пусть и . Тогда .
• Пусть и . Тогда .

 

Связь с другими распределениями

• Если , то, очевидно, получаем распределение Бернулли.
• Если большое, то в силу центральной предельной теоремы , где — нормальное распределение с математическим ожиданием и дисперсией .
• Если большое, а — фиксированное число, то , где — распределение Пуассона с параметром .
• Если случайные величины и имеют биномиальные распределения и соответственно, то условное распределение случайной величины при условии – гипергеометрическое .

Биномиальное распределение
Функция вероятности
Функция распределения
Обозначение
Параметры	— число «испытаний» — вероятность «успеха»
Носитель
Функция вероятности
Функция распределения
Математическое ожидание
Медиана	одно из
Мода
Дисперсия
Коэффициент асимметрии
Коэффициент эксцесса
Информационная энтропия
Производящая функция моментов
Характеристическая функция

 

 

Распределение Пуассона — вероятностное распределение дискретного типа, моделирует случайную величину, представляющую собой число событий, произошедших за фиксированное время, при условии, что данные события происходят с некоторой фиксированной средней интенсивностью и независимо друг от друга.

Распределение Пуассона играет ключевую роль в теории массового обслуживания.

Определение

Выберем фиксированное число и определим дискретное распределение, задаваемое следующей функцией вероятности:

,

где

• обозначает факториал числа ,

 

• — основание натурального логарифма.

Тот факт, что случайная величина имеет распределение Пуассона с параметром , записывается: .

Моменты

Производящая функция моментов распределения Пуассона имеет вид:

,

откуда

,

.

Для факториальных моментов распределения справедлива общая формула:

,

где

А так как моменты и факториальные моменты линейным образом связаны, то часто для пуассоновского распределения исследуются именно факториальные моменты, из которых при необходимости можно вывести и обычные моменты.