Эред; и ответ может сильно отличаться от набора к постановке.

Этот запрет особенно необходим в книге, адресованной

Биологических субъектов, поскольку здесь наборы векторов

Часто поддается определению только с некоторыми трудностями, возможно, помогло

182

Какой-то произвол. (Сравните S.6114.) Следовательно, каждый

Искушение позволить себе понять обсуждаемый набор интуитивно

Скорее ясное и расплывчатое, чем явное и точное. Читатель может

Часто обнаруживают, что какое-то неразрешимое противоречие между двумя аргументами

Ции будут разрешены, если более точное определение множества

При обсуждении достигается; ведь часто противоречие возникает из-за

Тот факт, что эти два аргумента на самом деле относятся к двум различным

Наборы, оба тесно связанные с одним и тем же объектом или организмом.

Бывший. 1: В таблице для идентификации бактерий по их способности сбраживать сахар.

ars, 62 вида отмечены как производящие «кислоту», «кислоту и газ» или «ничего».

от каждого из 14 сахаров. Таким образом, каждому виду соответствует вектор из 14 соединений.

компоненты, каждый из которых может принимать одно из трех значений. Набор избыточен?

На сколько компонентов можно уменьшить вектор?

Бывший. 2: Если цепь Маркова не имеет избыточности, как можно распознать ее матрицу

с одного взгляда?

Сентября. Теперь можно сказать, что, пожалуй, самое фундаментальное.

Мысль о теоремах, введенных Шенноном. Давайте предположим

Что мы хотим передать сообщение с H бит на шаг, поскольку мы

Может захотеть сообщить о перемещениях одного насекомого в

Бассейн. H здесь 0 84 бита на шаг (S.9 / 12), или, как сказал телеграфист

- сказал бы, за символ, думая о такой серии, как… PWBW

BBBWPPPWBWPW…. Предположим для определенности, что 20

Между шагом и шагом проходят секунды. Поскольку скорость этих

Событий, H также можно указать как 2,53 бита в минуту.

Теорема Шеннона говорит, что любой канал с такой пропускной способностью

Может передать отчет, и что его нельзя передать никаким каналом

С меньшей емкостью. Также сказано, что кодировка существует всегда.

С помощью которого канал может быть использован таким образом.

Пожалуй, было достаточно очевидно, что высокоскоростные каналы могут

Сообщить больше, чем медленно; что важно в этой теореме,

Во-первых, его большая общность (поскольку в нем нет ссылки на какой-либо конкретный

Машин и, следовательно, относится к телеграфам, нервным волокнам, проводам.

В равной степени) и, во-вторых, его количественная строгость. Таким образом, если

Пруд находился далеко в холмах, может возникнуть вопрос:

Дымовые сигналы могли нести отчет. Предположим отчетливую затяжку

Могут быть отправлены или не отправлены каждые четверть минуты, но не

Быстрее. Энтропия на символ здесь равна I бит, а значение канала

Поэтому пропускная способность составляет 4 бита в минуту. Поскольку 4 больше 2 53,

Канал может делать репортажи, а код можно найти, повернув

Позиции к затяжкам, которые будут нести информацию.

Шеннон сам построил пример, показывающий

Безупречно точность этого количественного закона. Предположим, что

183

ANINTROD UC TIONTOCYBER NE TICS

IN CESSA NT TR AN SMI SSIO N

Источник производит буквы A, B, C, D с частотами в соотношении

Соответственно, причем следующие друг за другом символы являются независимыми.

энт. Типичная часть последовательности будет… BAABDA

AAABCABAADA.... В состоянии равновесия относительная частота

Значения A, B, C, D будут 1/2, 1/4, 1/8, 1/8 соответственно, а

Энтропия составляет 14 бит на шаг (т.е. на букву).

Теперь канал, который может на каждом этапе производить любой из четырех

Состояния без ограничений будут иметь пропускную способность 2 бита на шаг.

Теорема Шеннона гласит, что должен существовать код, который будет

включить последний канал (с пропускной способностью 2 бита на шаг) для передачи

такая последовательность (с энтропией 1 3/4 бита на шаг), чтобы любая длинная