Підходи до вимірювання інформації

Як виміряти інформацію? Часто ми говоримо, що, прочитавши статтю в журналі або переглянувши новини, не отриРиси ніякої інформації, або навпаки, коротке повідомлення може виявитися для нас інформативним. У той же час для іншої людини та ж сама стаття може виявитися надзвичайно іноформатівной, а повідомлення - ні. Інформативними повідомлення є тоді, коли вони нові, зрозумілі, своєчасні, корисні. Але те, що для одного зрозуміло, для іншого - немає. Те, що для одного корисно, нове, для іншого - немає. У цьому проблема визначення та вимірювання інформації.

 

При всьому різноманітті підходів до визначення поняття інформації, з позиції виміру інформації нас будуть цікавити два з них: визначення К. Шеннона, що застосовується у математичній теорії інформації (змістовний підхід), і визначення А. Н. Колмогорова, що застосовується в галузях інформатики, пов'язаних з використанням комп'ютерів (алфавітний підхід).

 

 

Змістовний підхід

Згідно Шеннону, інформативність повідомлення характеризується міститься в ньому корисною інформацією - тією частиною повідомлення, яка знімає повністю або зменшує невизначеність будь-якої ситуації.

 

За Шеннону, інформація - зменшення невизначеності наших знань.

 

Невизначеність деякої події - це кількість можливих результатів даної події.

Так, наприклад, якщо з колоди карт навмання вибирають карту, то невизначеність дорівнює кількості карт в колоді. При киданні монети невизначеність дорівнює 2.

 

Змістовний підхід часто називають суб'єктивним, тому що різні люди (суб'єкти) інформацію про один і той самий предмет оцінюють по-різному.

 

Але якщо число випадків не залежить від суджень людей (випадок кидання кубика або монети), то інформація про настання одного з можливих результатів є об'єктивною.

 

Якщо повідомлення зменшити невизначеність знань рівно в два рази, то говорять, що повідомлення несе 1 біт інформації.

 

1 біт - об'єм інформації такого повідомлення, яке зменшує невизначеність знання в два рази.

 

Розглянемо, як можна підрахувати кількість інформації в повідомленні, використовуючи змістовний підхід.

 

Нехай в деякому повідомленні містяться відомості про те, що відбулося одне з N рівноймовірно (равновозможних) подій. Тоді кількість інформації я, укладену в цьому повідомленні, і число подій N пов'язані формулою: 2i = N. Ця формула має назву формули Хартлі. Отримано вона в 1928 р. американським інженером Р. Хартлі.

 

Якщо N дорівнює цілій степені двійки (2, 4, 8, 16 і т.д.), то обчислення легко зробити "в умі". В іншому випадку кількість інформації стає нецілої величиною, і для вирішення завдання доведеться скористатися таблицею логарифмів або визначати значення логарифма приблизно (найближче ціле число, більше).

 

Наприклад, якщо з 256 однакових, але різнобарвних куль навмання обрали один, то повідомлення про те, що вибрали червоний куля несе 8 біт інформації (28 = 256).

Для вгадування числа (напевно) в діапазоні від 0 до 100, якщо дозволяється задавати тільки виконавчі питання (з відповіддю "так" або "ні"), потрібно задати 7 питань, так як обсяг інформації про загаданном числі більше 6 і менше 7 (26 <100> 27)

 

 

Алфавітний підхід

Алфавітний підхід заснований на тому, що всяке повідомлення можна закодувати за допомогою кінцевої послідовності символів деякого алфавіту.

Алфавіт - впорядкований набір символів, використовуваний для кодування повідомлень на деякій мові.

 

Потужність алфавіту - кількість алфавіту символів.

Двійковий алфавіт містить 2 символу, його потужність дорівнює двом.

Повідомлення, записані за допомогою символів ASCII, використовують алфавіт з 256 символів. Повідомлення, записані по системі UNICODE, використовують алфавіт з 65 536 символів.

 

З позицій інформатики носіями інформації є будь-які послідовності символів, які зберігаються, передаються і обробляються за допомогою комп'ютера. Згідно Колмогорова, інформативність послідовності символів не залежить від змісту повідомлення, алфавітний підхід є об'єктивним, тобто він не залежить від суб'єкта, що сприймає повідомлення. Щоб визначити обсяг інформації в повідомленні при алфавітному підході, потрібно послідовно вирішити завдання:

Визначити кількість інформації (I) в одному символо за формулою 2i = N, де N - потужність алфавіту

Визначити кількість символів у повідомленні (м)

Обчислити об'єм інофрмації за формулою: V = я * м.

Наприклад, якщо текстове повідомлення, закодоване за системою ASCII, містить 100 символів, то його інформаційний обсяг становить 800 біт.

Для двійкового повідомлення тієї ж довжини інформаційний обсяг становить 100 біт. У комп'ютерній техніці біт відповідає фізичному стану носія інформації: намагнічене - не намагнічене, є отвір - немає отвору. При цьому один стан прийнято позначати цифрою 0, а інше - цифрою 1.

 

Одиниці виміру інформації

Як вже було сказано, основна одиниця виміру інформації - біт. 8 біт становлять 1 байт.

Поряд з байтами для вимірювання кількості інформації використовуються більші одиниці:

1 Кбайт (один кілобайт) = 210 байт = 1024 байта;

1 Мбайт (один мегабайт) = 210 Кбайт = 1024 Кбайта;

1 Гбайт (один гігабайт) = 210 Мбайт = 1024 Мбайта.

Останнім часом у зв'язку зі збільшенням обсягів оброблюваної інформації входять у вжиток такі похідні одиниці, як:

1 Терабайт (Тб) = 1024 Гбайта = 240 байта,

1 Петабайт (Пб) = 1024 Тбайта = 250 байта.

 

Питання:

Які підходи до вимірювання інформації вам відомі?

Яка основна одиниця виміру інформації?

Скільки байт містить 1 Кб інформації?

Наведіть формулу підрахунку кількості інформації при зменшенні невизначеності знання.

Як підрахувати кількість інформації, що передається в символьному повідомленні?

 

 

Література:

1) Курс користувачів персональним комп'ютером.

Автори: Г.В.Саєнко та Т.Б.Волобуєва.1994 рік.

2) http://school.ort.spb.ru/library/exam_help/inform_izm.html

 

Самостійна тема4

 

Програмне забезпечення ПК

 

Програмне забезпечення являє собою сукупність програм, призначених для розв’язання завдань на комп’ютері. Програма – це впорядкований набір команд. Програмне та апаратне забезпечення працюють взаємопов’язано і в неперервній взаємодії. Будь-який апаратний пристрій управляється програмно.

 

Програмне забезпечення можна поділити на три класи: системне, прикладне та інструментальне. Наведена класифікація є досить умовною. Інтеграція програмного забезпечення призвела до того, що практично будь-яка програма має риси кожного класу.

 

Системне ПЗ призначено для управління роботою комп'ютера, розподілу його ресурсів, підтримки діалогу з користувачами, надання їм допомоги в обслуговуванні комп'ютера, а також для часткової автоматизації розробки нових програм.

 

Системне ПЗ — це комплекс програм, багато з яких постачаються разом з комп'ютером та документацією до неї. Системне ПЗ можна розділити на три основні частини: операційні системи (ОС), системи програмування та сервісні програми.

 

Основними компонентами загальносистемного програмного забезпечення являються: операційні системи, які вирішують задачі взаємозв’язаного функціонування окремих компонентів.

 

Існують 4 типи операційних систем:

 

1) операційні системи пакетної обробки: порівняно велика швидкість логічних і автоматичних операцій, але в свою чергу мала швидкість вводу і виводу завантаженість процесора на 20 – 30%.

 

2) операційна система з розподілом задач по часу (організовується черга вводу і виходу задач, і обслуговується до 15 користувачів і процесор завантажений на 80-90%).

 

3) операційна система реального часу, використовується для керування різними процесами.

 

Системне програмне забезпечення здійснює управління роботою обчислювальної системи. Як правило, системні програми забезпечують взаємодію інших програм з апаратними складовими, організацію інтерфейсу користувача. Сюди відносять операційні системи, сервісні системи.

 

Прикладне програмне забезпечення призначене для розв’язання прикладних завдань фахової діяльності людини (тобто, прикладене до практики). Спектр таких програм надзвичайно широкий: від виробничих та наукових до навчальних та розважальних. Сюди відносять розрахункові, навчаючі, моделюючі програми, комп’ютерні ігри, тощо.

 

Інструментальне програмне забезпечення призначене для розробки всіх видів інформаційно-програмного забезпечення. При цьому під інформаційним забезпеченням розуміють сукупність попередньо підготовлених даних, необхідних для роботи програмного забезпечення. Наприклад, будь-яка сучасна програма має вбудовану довідку для роботи з цією програмою. Файл довідки являє собою інформаційне забезпечення. До інструментального програмного забезпечення відносять: редактори (текстові, графічні, музичні), системи табличної обробки даних (табличні процесори), системи управління базами даних, транслятори мов програмування, інтегровані системи діло виробництва, тощо.

 

Системи програмування призначені для полегшення та для часткової автоматизації процесу розробки та відлагодження програм. Основними компонентами цих систем є транслятори з мов високого рівня, наприклад, Паскаль, Сі, Бейсик та ін. Особлива роль належить Ассамблерам. Програму мовою Ассамблера називають машинно-орієнтованою. Мовою Ассамблера користуються, як правило, системні програмісти.

 

Транслятори здійснюють перетворення програм з мов високого рівня на машинну мову. Крім того, транслятори звичайно здійснюють синтаксичний аналіз програми, яка транслюється. Вони можуть також відлагожувати та оптимізувати програми, які одержують, видавати документацію на програму та виконувати ряд інших сервісних функцій.

 

Ассамблери перетворюють програми, які представлені у машинноорієнто-ваних мовах, на машинну мову.

 

Сервісні програми розширюють можливості ОС. Їх, звичайно, називають утілітами. Утіліти дозволяють, наприклад, перевірити інформацію у шістнад-цятковому коді, яка зберігається в окремих секторах магнітних дисків; організувати виведення на принтер текстових файлів у визначеному форматі, виконувати архівацію та розархівацію файлів та ін.

 

У структурі прикладного програмного забезпечення можна виділити: прикладні програми як загального, так і спеціального призначення.

 

Прикладне ПЗ загального призначення — це комплекс програм, який одержав широке використання серед різних категорій користувачів. Найбільш відомими серед них є: текстові редактори, графічні системи, електронні таблиці, системи управління базами даних та ін.

 

Текстові редактори дозволяють готувати текстові документи: технічні описи, службові листи, статті та ін. Найбільш відомі такі текстові редактори:

 

Лексикон, Write, Word.

 

Графічні системи багаточисельні, а їх функції — різноманітні. Серед них можна виділити системи ділової графіки (Microsoft PowerPoint, Lotus Freelance Graphics), художньої графіки, які ще називають просто графічними редакторами (Раіntbrush), інженерної графіки та автоматизованого проектування (Autodesk AutoCad), системи обробки фотографічних зображень (Adobe Photoshop), а також універсальні графічні системи (CorelDRAW!).

 

Програми роботи з електронними таблицями (ЕТ) дозволяють розв'язувати широке коло задач, зв'язаних з числовими розрахунками. Найширше використовують серед програм такого класу Supercalk, Місrosoft Excel та Lotus 1-2-3.

 

Системи управління базами даних (СУБД) призначені для об'єднання наборів даних з метою створення єдиної інформаційної моделі об'єкта. Ці програми дозволяють накопичувати, обновляти, коригувати, вилучати, сортувати інформацію, організовану спеціальним засобом у вигляді банку даних. Найпоширеніші СУБД: dВаsе III Рlus, FохBase+, Сlірреr, Оrасlе, Ассеs, FохРrо, Раrаdох.

 

Крім перерахованих систем до складу прикладного ПЗ загального призначення слід віднести й інтегровані системи. Ці системи об'єднують у собі можливості текстових редакторів, графічних систем, електронних таблиць та систем управління базами даних. Головна перевага інтегрованих систем перед окремими системами прикладного ПЗ загального призначення полягає у тому, що вони створюють єдині правила роботи для користувача, тобто вони мають єдиний інтерфейс як при роботі з текстом, так і при роботі з електронними таблицями та ін. Найвідоміші серед них: Місrosoft Works, Місrosoft Office, Lotus SmartSuite, Perfect Office.

 

Прикладні програми спеціального призначення використовують у специфічній діяльності користувачів.

 

Функції специфічних систем залежать від їх призначення. Наприклад, для систем навчального призначення це можуть бути інструментальні засоби для розробки комп'ютерних уроків (гіпермедійні та гіпертекстові системи, авторські та інші системи), імітаційне моделюючі програми навчального призначення, програми для розробки та підтримки шкільного розкладу, педагогічні про- грамні засоби різного призначення та ін.

 

До складу прикладних програм спеціального призначення можна також віднести пакети прикладних програм (ППП), які широко використовуються, наприклад, для статистичної обробки даних, бухгалтерського обліку, розрахунку будівельних конструкцій та ін. Наявність у комп'ютері різноманітних ППП дозволяє розв'язувати значну частину простих прикладних задач, майже без програмування. В цьому випадку завдання на розв'язування тієї чи іншої задачі записується у вигляді директиви спеціальною проблемно-орієнтованою мовою та повідомляється комп'ютеру.

 

 

Література:

 

1. Информатика для юристов и экономистов/ Симонович С.В. и др. - СПб: Питер, 2001. - 688 с.

 

2. Фигурнов В.Э. IBM PC для пользователя. Краткий курс. Изд. 7-е. М.: ИНФРА-М, 1997, 432 с.

 

3. Ю. Шафрин. Информатика. Информационные технологии: в 2 ч. М.: Лаборатория Базовых Знаний, 2001.

 

Самостійна тема5