Потери при информационном взаимодействии

 

Оценим потери ин­формации, возникающие по причине внешних и внутренних меша­ющих воздействий, используя результаты теории информация-Процесс информационного взаимодействия источника (И) и потре­бителя (П) может осуществляться с помощью системы (С) путем последовательного обмена сообщениями (рис. 38).

Тогда система реализует процесс отражения, т. е. информация от источника в виде последовательности сообщений с помощью системы выдается по­требителю. Рассмотрим случай, когда множества сообщений Х_о, Y_о конечны. Будем считать, что в процессе отражения сообщение y_0i возникшее на входе системы, порождает на выходе y_0i. Сообщение у_0i возникает как результат сообщения x_0j в итоге реализации инфор­мационного процесса в системе. Качественное функционирование системы предполагает минимизацию потерь информации при та­ком преобразовании. Поэтому полезно сравнить количество инфор­мации, которое содержится в сообщении x_0j, и количество инфор­мации в сообщении у_0i относительно сообщения x_0j. Количество собственной информации сообщения x_0j составит I(x_0j) =-log₂P(x_0j), где P(x_0j) — вероятность возникновения на выходе источника сообщения x_0j. Значение собственной информации в сооб­щении x_0j потребителю неизвестно. Он судит о нем лишь по сообще­нию y_Oi. Тогда количество собственной информации в сообщении у_0i составит I(y_0i)=-log₂P(y_0i), где Р(у_0i)) - вероятность возник­новения сообщения у_0i на входе потребителя. Как было выше пока­зано, для нахождения полезной информации необходимо устранить информацию, вносимую помехами. Она выражается в виде услов­ной собственной информации . Тогда ко­личество информации в сообщении у_0i относительно сообщения x_0j составит

Усредняя полученное выражение по множествам сообщений Х_о, Y_o, найдем количество взаимной информации, т. е. среднее количество информации, которое связывает ансамбли I(X₀,Y₀)=M{I(x_0j, у_0i)}. Учитывая, что сообщение x_0j возникает с вероятностью P(x_0j), а со­общение y_0i с вероятностью P(x_0j)P(y_0i/x_0j), окончательно получим

,

где H(Y₀) — безусловная энтропия по множеству сообщений Y₀, — условная энтропия по множеству сообщений Y₀ при уловии, что множество событий Х₀ известно.

Если сообщение y_0i тождественно сообщению x_0j, то вероятность Р(y_0i)=Р(х_0j), т.е. P(y_0i/x_0j). Тогда условная энтропия и взаимная информация есть энтропия H(Y₀). Это означает, что имеем идеальную систему, которая высококачествен­но отображает реальность, и информационный процесс реализуется в системе без потерь.

В реальных условиях имеют место внутренние и внешние воз­мущения, которые вызывают потери информации, отображаемые членом . Это означает выделение в рамках системы С иде­ально функционирующей системы ИС, в которой отсутствуют поте­ри информации, и последовательно связанного с ней канала воз­мущений KB, куда включены внешние и внутренние случайные воздействия (рис. 39).

В канале возмущений осуществляется преоб­разование множества сообщений Х₀ во множество сообщений У₀, и взаимная информация I(Х₀, У₀) может рассматриваться как коли­чество информации, проходящей через канал возмущений. К этому каналу тогда могут быть отнесены потери информации при ре­ализации информационного процесса, выражаемые членом . Рассматривая канал возмущения как обобщенный канал связи, можно попытаться скомпенсировать потери информации за счет введения избыточности.

Избыточность может быть направлена на обнаружение и ис­правление ошибок. Численно вносимая избыточная информация должна соответствовать информации потерь , поэтому , где Н_о, Н_и — количество информации, необхо­димое для обнаружения и исправления ошибок соответственно. Физически Н₀ — энтропия двух событий, одно из которых отоб­ражает наличие ошибки с вероятностью Р₀, а второе — отсутствие ошибок с вероятностью 1-Р₀. Тогда

,

где Р₀ — вероятность ошибки, одинаковая для каждого сообщения. Если вероятность ошибки зависит от номера принимаемого сообщения, то определяют среднюю вероятность ошибки

где — вероятность ошибки в i -м сообщении:

.

Количество избыточной информации, необходимое для исправ­ления ошибки, найдем из условия равновероятности переходов сообщения в любое другое. Каждое сообщение из множества Х_о мо­жет при переходе через обобщенный канал связи с одинаковой вероятностью трансформироваться в любое из (М-1) сообщений. Воспользуемся формулой энтропии для равновероятных событий, тогда неопределенность попадания любого сообщения в одну из точек множества М-1 составит Н=log₂(М-1). Так как такое попадание имеет место с вероятностью ошибки Р_о, то Н_и=Р₀log₂(М-1). Окончательно получаем, что количество необходимой избыточной информации для компенсации потерь, воз­никающих при реализации информационного процесса, составит

Отметим, что полученное выражение задает нижний уровень избыточности для случая независимых ошибок. Он может быть реализован за счет рационального выбора кода при согласовании источника и потребителя информации. Таким образом, потери ин­формации, выражаемые условной энтропией, могут служить обоб­щенной характеристикой качества реализации информационного процесса.

Для компенсации потерь информации в информационные систе­мы вводят избыточность, которая может реализовываться на кон­цептуальном, логическом и физическом уровнях. Концептуальный уровень введения избыточности означает наличие избыточных сооб­щений за счет существования коррелированных значений инфор­мации, снимаемых с реального объекта. Избыточной является и че­ловеческая речь. На логическом уровне избыточность закладывается в код, отображающий сообщение, путем специального конструиро­вания обнаруживающих и исправляющих кодов. Здесь же могут находить применение системы с обратной связью, позволяющие поднять верность преобразования информации. На физическом уро­вне избыточность закладывается в сигнал, отображающий отдель­ные составные части кода, т. е. его элементы. По существу избыточ­ность сигнала тем больше, чем сильнее различаются отдельные значения сигналов.

Геометрическое представление сигнала в пространстве позволяет найти наилучшие условия расположения сигналов, обеспечивающих максимальное отличие их значений. Если для построения кода используются сигналы х₁(t), х₂(t), представленные векторами в дву­мерном пространстве, то характеристикой их различия служит кодо­вое расстояние d, определяемое по проекциям этих сигналов (рис. 40):

,

где х­­ ₁₁, x₂₁ — проекции сигналов на ось 1; x₁₂, x₂₂ — проекции сиг­налов на ось 2.

Если для реализации кода используется n сигналов, то они изображаются в n-мерном пространстве и кодовое расстояние меж­ду сигналами х₁(t), х₂(t) определяется как

.

где x_1j, x_2j — проекции первого и второго сигналов на ось j.

Если сигналы х₁(t), х₂(t) непрерывны в интервале длительности Т, то можно найти кодовое расстояние в виде

.

Полагая, что амплитуды сигналов одинаковые, т. е. x₁(t)=x₂(t), получим

,

где Е_c — энергия сигнала, пропорциональная квадрату амплитуды, l₁₂ — коэффициент корреляции первого и второго сигналов.

Для увеличения кодового расстояния необходимо увеличивать энергию сигнала Е_с и получить отрицательный коэффициент кор­реляции l₁₂. Это означает, что при наличии двух сигналов они должны быть противоположны по фазе. Нетрудно показать, что при использовании л сигналов в целях повышения кодового рассто­яния они должны располагаться в пространстве таким образом» чтобы концы их векторов упирались в вершины правильного много­угольника, а начала векторов находились в центре его тяжести. При равенстве амплитуд сигналов соотношения между коэффициентом корреляции и энергией сигнала составит , где n — число сигналов. Наилучшие условия различения наблюдаются при использовании двух сигналов. Тогда l=-Е_с и кодовое расстояние определяется энергией сигнала. Таким образом, на физическом уровне реализация информационного процесса должна проходить при таких энергиях сигналов, которые намного превышают энергию помехи. В этом случае повышается их различимость.

Качество реализации любого информационного процесса оцени­вается вероятностно-временными характеристиками, которые уста­навливаются на основе аналитического исследования с использова­нием математической модели либо на базе машинного эксперимен­та, проводимого на имитационной модели. Исходной информацией при построении модели являются данные о назначении и условиях реализации информационного процесса. В зависимости от уровня абстрагирования и цели моделирования выбираются соответству­ющие математические схемы, которые позволяют построить моде­ли идеально функционирующей системы, модель случайных воздей­ствий, модель внешней среды и модель взаимодействия системы с внешней средой. С помощью математической схемы моделирова­ния можно перейти от концептуального (содержательного) описа­ния моделей информационного процесса к логическому (формаль­ному) описанию с учетом воздействий внешней среды и границы «система — среда». Описание информационного процесса на моде­ли осуществляется в виде выбора совокупности входных воздейст­вий, воздействий внешней среды, внутренних параметров процесса и выходных характеристик системы. Входные воздействия, воздей­ствия внешней среды и внутренние параметры системы являются независимыми переменными модели, а выходные характеристики процесса — это зависимые переменные. Определение выходных ха­рактеристик осуществляется на базе алгоритма функционирования модели. Один и тот же информационный процесс может быть реализован различными алгоритмами функционирования.

Ранее было показано, что взаимодействие между территориально удаленными объектами осуществляется за счет обмена данными. Доставка данных произ­водится по заданному адресу с использованием сетей передачи данных. В условиях распределенной обработки информации эти сети превращаются в информационно-вычислительные, однако для них остаются характерными проблемы передачи, распределе­ния и доставки данных по заданным адресам. Важнейшим звеном сети является канал передачи данных, структурная схема которого Представлена на рис. 41. Физической средой передачи данных является некоторый реальный либо специально организуемый канал связи (КС), в котором элементы данных передаются в виде физичес­ких сигналов. Такой канал получил название непрерывного канала, поскольку сигналы описываются непрерывными функциями време­ни.

Согласование сигнала и канала связи осуществляется по физи­ческим характеристикам, а также по соотношению скорости пере­дачи информации и пропускной способности непрерывного канала. Следует отметить, что большинство непрерывных каналов оказыва­ются непригодными для передачи сигналов, отображающих дан­ные, без предварительного их преобразования. Поэтому сигналы по физическим характеристикам должны быть согласованы со свойст­вами непрерывного канала связи, для чего в структуре канала передачи данных предусматривают устройства преобразования сиг­налов, которые для телефонных каналов связи приобретают харак­тер модемов. Модем представляет собой совокупность модулятора (М) и демодулятора (ДМ). С помощью модулятора сигнал воздей­ствует на некоторый параметр переносчика, благодаря чему спектр сигнала смещается в область частот, для которых наблюдается наименьшее затухание в выбранном непрерывном канале связи. Обратную операцию, т. е. переход от модулированного сигнала к модулирующему, осуществляет демодулятор. Модулятор, непре­рывный канал связи и демодулятор образуют дискретный канал, на входе и выходе которого существует множество дискретных элемен­тов кода.

На логическом уровне может быть построена модель дискрет­ного канала связи, которая отображает процесс передачи через этот канал дискретных элементов кода. Дискретный канал связи должен быть так сконструирован, чтобы скорость передачи согласовывалась с его пропускной способностью. Для обеспечения помехоустой­чивой передачи информации в структуру канала передачи данных вводят устройство защиты от ошибок (УЗО). Оно обеспечивает помехоустойчивое кодирование-декодирование, соответствующий режим функционирования системы передачи данных (с обратной связью, с адаптацией и т. д.), а также режим формирования совокуп­ности данных в виде кадра. Источники (ИС) и потребители сообще­ний (ПС) согласуются с каналом передачи данных с помощью устройств сопряжения УС. Таким образом, как на передающей, так и на приемной стороне используется оконечное оборудование дан­ных (ООД). Стык между оконечным оборудованием и аппаратурой передачи, реализующей дискретный канал, унифицируется в рамках международных и национальных рекомендаций. Стык обычно зада­ется на физическом уровне. Канал передачи данных является основ­ной составной частью сети обмена данными, в которой процесс передачи реализуется на основе принятого метода коммутации и принципа маршрутизации данных. Рассмотрим канал передачи данных на логическом уровне. В основе его лежит модель дискрет­ного канала связи.