Модель дискретного канала связи

 

Дискретный канал связи (ДКС) имеет на входе множество символов кода X с энтропией источника Н(Х), а на выходе — множество символов Y с энтропией H(Y) (рис. 42).

Если формируемые символы из множества X и вы­являемые из множества Y расположить в узлах графа, соединив эти узлы дугами, отображающими вероятности перехода одного сим­вола в другой, то получим модель дискретного канала связи, пред­ставленную на рис. 43.

Множество символов X конечно и определя­ется основанием системы счисления кода К_х на входе канала. Систе­ма счисления по выявляемым символам также конечна и составляет К_у. Вероятности переходов, связывающих входные и выходные сим­волы, могут быть записаны в виде матрицы

В этой матрице i-й столбец определяет вероятность выявления выходе дискретного канала связи символа у_i. Вероятности, рас положенные на главной диагонали, называются вероятностями прохождения символов, остальные вероятности есть вероятность трансформации. Анализ модели дискретного канала связи возможен, если известна статистика появления символов на входе канала. Тогда может быть определена энтропия Н(Х). Если известна стати­стика символов на выходе канала, то нетрудно установить энт­ропию Н(Y). Потери информации могут быть вызваны действием помех, которые отображаются в дискретном канале в виде некото­рого потока ошибок. Поток ошибок задается с помощью опреде­ленной модели ошибок, на основании которой может быть установ­лена матрица Р. Зная эту матрицу, находят условную энтропию , которая, как выше показано, отображает потери инфор­мации при прохождении ее по каналу связи. В данном случае — это потери информации из-за действия ошибок в диск­ретном канале связи. Исходя из модели дискретного канала связи, можно выполнить классификацию дискретных каналов.

По основанию системы счисления коды на входе ДКС различают двоичные, троичные, четверичные каналы связи и дру­гие.

По соотношению системы счисления на выходе и на входе ДКС выделяют каналы со стиранием, если К_у>К_х, и каналы без стирания, если К_у=К_х.

По наличию зависимости вероятности переходов сим­волов в ДКС от времени выделяют нестационарные каналы, для которых такая зависимость существует, и стационарные каналы, где вероятности переходов постоянны. Нестационарные каналы могут быть классифицированы по наличию зависимости вероятности пе­реходов от предшествующих значений. Выделяют дискретные кана­лы с памятью, в которых такая зависимость имеет место, и дискрет­ные каналы без памяти, где этой зависимости не существует.

При определенных соотношениях между вероятностями перехо­дов, входящих в матрицу Р, выделяют: симметричные каналы по входу, для которых вероятности, входящие в строку матрицы. являются перестановками одних и тех же чисел; симметричные каналы по выходу, для которых это относится к вероятностям, входящим в столбцы; симметричные каналы по входу и по выходу при соблюдении обоих условий. На основе представленной клас­сификации матрица двоичного симметричного канала имеет вид

где Р — вероятность искажения символа.

Соответственно матрица двоичного симметричного канала со стиранием

где Р — вероятность трансформации; 1-Р-q — вероятность про­хождения символа; q — вероятность стирания символа.

Для гранич­ного случая двоичного симметричного канала без шума матрица переходов имеет вид

Граф К -го канала без шума представлен на рис. 44.

С использованием дискретного канала связи могут быть решены основные проблемы передачи. Для канала без шума — это выбор оптимального кода, который по своим свойствам согласуется с ис­точником, т. е. имеет наименьшую среднюю длину. Для канала с шумом — это выбор кода, который обеспечивает заданную веро­ятность передачи при максимально возможной скорости. Для реше­ния этих проблем рассмотрим основные характеристики ДКС.

Основной характеристикой дискретного канала является про­пускная способность, Под которой понимают верхний предел количества информации, которую можно передать через канал связи, отоб­ражаемый заданной моделью. Оценим пропускную способность дискретного канала связи. Количество взаимной информации, свя­зывающей множества символов X, Y, составит . Пропускная способность .

Раскроем данное выражение для отдельных вариантов дискретного канала связи.

Пропускная способность дискретного канала связи без шума. При отсутствии шума потерь информации в канале нет, а поэтому , тогда C=I_max=H_max(Y). Как известно, максимум энтропии для дискретных событий достигается при их равновероятности. Учитывая, что на выходе канала связи может появиться К_у символов, получим, что . Отсюда C=log₂K_у.

Таким образом, пропускная способность дискретного канала без шума зависит только от основания кода. Чем оно больше, тем выше информативное» каждого символа, тем больше пропускная способность. Пропускная способность измеряется в двоичных еди­ницах на символ и не связана в данном представлении со временем. При переходе от двоичного кода к четвертичному пропускная спо­собность ДКС без шума увеличивается в два раза.

Пропускная способность дискретного симметричного канала связи с шумом. Рассмотрим канал без стирания, для которого К_x=К_y=К. При наличии шума в ДКС входной символ x_j переходит в символ у_i, с вероятностью . Вероятность трансформации символа составит . Если ка­нал симметричен, то вероятности, входящие в данную сумму, одинаковы, а поэтому . Вероятность прохож­дения символа (рис. 45). Пропускная спо­собность рассматриваемого канала . Ранее показано, что H_max(Y)=log₂K,

.

Принимая, что на входе ДКС символы равновероятны, т. е. , находим

Минимум условной энтропии достигается соответствующим вы­бором порога срабатывания приемной схемы, при котором обес­печивается минимальное значение вероятности трансформации Р. Отсюда пропускная способность

.

Видно, что она увеличивается с ростом основания кода и с уменьшением вероятности трансформации символа.

В случае двоичного симметричного канала с шумом пропускная способность может быть найдена при К=2, т. е. С=1+(1-P)log₂(1-P)+Plog₂P. Зависимость пропускной способности двоичного симметричного канала от вероятности искажения символа представлена на рис. 46. При Р=0 получим С=1. С ростом вероят­ности искажения до 0,5 пропускная способность падает до нуля.

Рабочий диапазон дискретного канала соответствует вероятности Р<0,1. При этом пропускная способность близка к единице.

Пропускная способность двоичного симметричного канала со стиранием. Если на входе двоичного канала имеют место символы х₁, х₂, то при наличии стирания на выходе канала возникают символы у₁, у₂ и символы стирания у₃. Символ стирания формируется при наличии в приемном устройстве специальной зоны стирания, попадание в которую означает возникновение сим­вола неопределенности (стирания). Введение зоны стирания в при­емное устройство позволяет снизить вероятность трансформации символа Р за счет появления вероятности стирания символа q (рис. 47). Тогда вероятность прохождения символа составляет l-P-q. Пропускная способность . При наличии сим­вола стирания стремление к равновероятности символов на выходе канала не имеет смысла, поэтому энтропия на выходе H(Y) опреде­ляется как

,

где P(y_i) — вероятность возникновения на выходе дискретного ка­нала символа у_i.

Найдем вероятности возникновения символов на выходе при Условии, что символы на входе равновероятны, тогда

,

;

;

.

Отсюда

.

Соответственно условная энтропия

.

Отсюда пропускная способность

.

Опыт применения канала со стиранием показал, что введение зоны стирания эффективно лишь при наличии помех. Тогда удает­ся получить P«q и повысить пропускную способность канала связи.

В общем случае в условиях действия помех повышение пропуск­ной способности дискретного канала достигается за счет равноверо­ятности символов на выходе и снижения вероятности искажения символа. В случае симметричного канала связи равновероятность символов на выходе означает необходимость равновероятности символов на входе канала. Это условие соответствует полученному ранее требованию построения оптимального кода. Снижение веро­ятности искажения символа в дискретном канале зависит от конст­руирования приемной схемы на физическом уровне. Закон распреде­ления помехи на выходе непрерывного канала связи позволяет найти оптимальное значение порога срабатывания приемной схемы и исходя из него оценить и минимизировать вероятность искаже­ния символов. Таким образом, на основании модели дискретного канала связи можно установить верхний предел скорости передачи информации и согласовать производительность источника с про­пускной способностью канала связи. Условная энтропия дает возможность оценить минимально необходимую избыточ­ность, отнесенную к одному символу кода. Это позволяет найти нижний предел избыточности при построении обнаруживающих и корректирующих кодов для каналов связи с шумами. Конкретное значение избыточности устанавливается из требований к вероят­ностно-временным характеристикам процесса передачи. Эти харак­теристики могут быть рассчитаны на основе модели функциониро­вания системы передачи данных.