Виды информации. Устранение избыточности информации.

Информацию можно различать по области знаний (биологическая, техническая), по физической природе восприятия (зрительная, слуховая, вкусовая), а так же по структурно-метрическим свойствам. Последнее наиболее пригодно для технических приложений.

К параметричекой информации относятся наборы численных оценок значений каких-либо параметров, результаты количественных определений при исследовании, анализе, контроле.

К топологич. Информации относят карты местности, геом. Образы. Ею удобно выражать образы и ситуации подлежащие распознаванию.

Параметрич. Пользуются чаще всего в науке и технике.

Абстрактную применяют в исследованиях на высоком теор. Уровне, когда обобщения, символизация.

Устранение избыточной информации

Обьект наблюдения и управления =>(сигналы) формирование первичной информации => (сигналы) структурное обозначение информации => (сигналы) cтатистическое обозначение информации (сигналы) семантическое обозначение информации => (сигналы) формирование решений и воздействий

 

 

67. Статистические меры информации. Информационное содержание сигнала.

В статистической теории информации вводится более общая мера количества информации, в соответствии с которой рассматривается не само событие, а информация о нем. Если появляется сообщение о часто встречающемся событии, вероятность появления которого близка к единице, то такое сообщение для получателя малоинформативно. Столь же малоинформативны сообщения о событиях, вероятность появления которых близка к нулю.

Под информацией подразумевается совокупность сведений о каких-либо событиях, явлениях или предметах, предназначенных для передачи, приема, обработки, преобразования, хранения или непосредственного ис­пользования. Особенность информации состоит в том, что обычно возникает она в одном месте, а используется в другом. Передача информации — это процесс переноса сведений из одной точки пространства в другую. Отметим, что информацию, представленную в алфавитно-цифровой форме, в теории электросвязи принято называть данными.

При вероятностном подходе информации рассматривается как сообщение о исходе случайных событий реализует случайную величину и функцию, а количество информации ставиться в зависимость от априорных вероятностей этих событий, величин, функций, если получаемое сообщение часто встречаное событиях, Вероятность появления которых стремиться к 1, т.е. к достоверным сообщениям, то такое сообщение мало информативно. Большинство видов информации можно свести к двоичным явлениям (да, нет). Это пара явлений будет простейшим элементам информации.

События – это элементарное явление, которое может быть с вероятностью от 0 до 1, т.е. вероятность = 0 до – вероятность = 1, или не быть вероятностью стремящейся к Q=1-P (P-вероятность) Когда P = 0.5 будет наибольшая неопределённость в ситуации

События – это наибольше возможные некоторого опыта, где все исходы составляют «ансамбль» событий. (т.е. полная группа событий).

Для ансамбля сумма вероятности событий равна.

В общем случае вероятности не остаются существующими, они могут изменяться во времени.

Это характерно для астацинарного процесса, при стационарном процессе остальные характеристики не изменяются.

Информационное содержание сигнала.

Информация, подлежащая передаче и выраженная в определенной форме, называется сообщением. Сообщение может быть представлено в форме текста телеграммы, некоторых сведений, передаваемых по телефону, радио или телеграфу, телевизионного изображения, данных на выходе компьютера и т.д.

Ценность любых сведений, содержащихся в переданном получателю сообщении, характеризует количество заключенной в нем информации /. Данная величина может определяться степенью изменения поведения получателя под воздействием принятого сообщения. В теории связи количественная оценка информации основывается на концепции выбора наиболее важного сообщения из всей совокупности возможных сообщений. При этом чем менее вероятен выбор данного сообщения, т.е., чем более оно неожиданно для получателя, тем большее количество информации в нем содержится. Совершенно очевидно обратное: достоверное (заранее известное) сообщение нет смысла передавать, поскольку оно не является неожиданным и, следовательно, не содержит никакой информации. Поэтому любые реальные сообщения следует рассматривать как случайные события (случайные процессы).

Математически строгий вывод выражения для количества информации, передаваемой по каналу связи, очень сложен и выходит за рамки данного учебника. В общем случае передаваемое по каналам связи сообщение можно представить в виде набора некоторых смысловых элементов или символов (например, букв какого-либо алфавита). Если общее количество (объем) смысловых символов равно т, а одно сообщение составлено из п элементов, то число возможных сообщений N = mⁿ. Так, например, с помощью двух­разрядного десятичного числа (n = 2, т = 10) можно записать N = 10² = 100 различных чисел от 0 до 99. В частности, при средней длине русского слова n = 5 букв и алфавите в т = 32 буквы можно составить 33,5 млн. различных слов. Однако использование числа N в качестве меры информации неудобно, так как в данном случае не выполняется условие пропорциональности между длиной слова (длительностью сигнала) и количеством содержащейся в нем информации. Между тем удвоение времени передачи сообщений должно приводить к удвоению количества передаваемой информации.

Сигнал (от лат. signum — знак) — физический процесс (или явление), несущий информацию о состоянии какого-либо объекта наблюдения. По своей физической природе сигналы могут быть электрическими, световыми, звуковыми и др. В радиотехнике в основном используются электрические сигналы.