Продуктивність дискретного джерела та швидкість передачі інформації

Будь-яку інформацію потрібно доставити одержувачеві повідомлень, інакше вона не матиме для нього ніякої цінності. Проте при передачі інформації від дискретних джерел по каналах зв'язку можуть виника­ти її втрати, якщо в каналах діють завади та є спотворення сигналів, якими передаються повідомлення.

Від інтенсивності завад у каналах залежать швидкість передачі ін­формації та пропускна здатність каналів.

Якщо джерело А вибирає повідомлення а_i, то можна говори­ти, що воно виробляє певну кількість інформації I_i = -1оg p_i. Розглянемо трохи складнішу його модель, а саме: ансамбль А повідомлень, урахувавши роз­поділ імовірностей p_i та розподіл проміжків часу τ _i, протягом яких джерело вибирає різні повідомлення а_i.

Продуктивність джерела щодо певного повідомлення а_i мож­на визначити як

V_джі = I_i / τ _i. (3.1)

Її одиниця залежить від вибору одиниці кількості інформа­ції I_i. Наприклад, це може бути біт за секунду.

Як правило, джерело вибирає досить велику кількість по­відомлень протягом певного часу. Тому природно як загальну характеристику джерела прийняти середню за ансамблем його продуктивність, користуючись відомим з попереднього розділу методом статистичного усереднення:

. (3.2)

Загалом, коли τ _i ≠ τ _j при i ≠ j вираз (3.1) після усереднення за часом можна перетворити до такого вигляду:

, (3.3)

де τ_сер - середній час вибору джерелом одного повідомлення.

Вираз (3.3) дійсний також для більш поширеного випадку, коли джерело вибирає всі свої повідомлення за один і той са­мий проміжок часу τ = τ_сер.

З урахуванням (3.3) вираз (3.2) набуває вигляду:

. (3.4)

Бачимо, що така загальна характеристика, як продуктивність
дискретного джерела, визначається його середніми показниками: ентропією (середньою кількістю інформації в одному по­відомленні) та часом утворення останнього.

Розглянемо узагальнену модель каналу передачі інформації
(рис. 3.1). Зазначимо, що передача можлива як у просторі, так і
в часі. Це залежить від мети передачі та вибраних носіїв інфор­мації в лінії зв'язку. Виходячи з наведеного в п. 2.1 визначення
маємо джерело А з ентропією H (А),утворене спостерігачем А
та спостережуваним фізичним процесом А.

 

Рисунок 3.1- Узагальнена модель каналу передачі інформації

 

Повідомлення певної форми передаються лінією зв'яз­ку, де на них впливають завади, що можуть спотворювати їх.
Внаслідок цього утворюється новий фізичний процес В,який
спостерігається на виході лінії. Сама лінія при цьому розгля­дається як фізичний об'єкт В. Роль спостерігача В тут відіграє приймальний пристрій, що вибирає повідомлення b_j з алфавіту
В відповідно до фізичного процесу В. Таким чином, утворюється джерело В зі своєю безумовною ентропією Н (В).

Вибір повідомлень характеризує при цьому процес передавання інформації по каналу зв'язку від джерела А на ви­хід джерела В. Позначимо через І (А, В)середню кількість інфор­мації про стан джерела А, яка міститься в одному повідомленні джерела В. Якщо на вибір кожного повідомлення витрачається час τ, то питома кількість переданої інформації є швидкістю її передачі по каналу, тобто

V = I’ (A, B) = I (A, B) / τ. (3.5)