Імовірнісний підхід на основі теореми Байєса.

Теорія ймовірностей будується на припущенні про те, що, знаючи частоту настання подій, можна міркувати про частоту виникнення подальших комбінацій подій. Наприклад, в рамках простих імовірнісних обчислень можна визначити, як карти можуть розподілятися серед гравців. Припустимо, ви - один з чотирьох гравців в картковій грі, в якій всі карти розподілені рівномірно. Якщо у вас немає пікової дами, то ви можете зробити висновок, що ймовірність її знаходження у кожного з решти гравців дорівнює 1/3. Аналогічно можна зробити висновок, що ймовірність знаходження у кожного з гравців червового туза також становить 1/3, і що будь-який гравець має обидві карти з імовірністю 1/3 * 1/3 або 1/9, припустивши, що події отримання двох карт є незалежними.

У класичній теорії ймовірностей окремі ймовірності обчислюються або аналітично комбінаторними методами, або емпірично. Якщо відомо, що А і В незалежні, то ймовірність їх комбінації обчислюється за наступним правилом:

P (А Ç В) = P (А) * P (В).

Введемо поняття апріорної і апостеріорної ймовірності.

Апріорна (безумовна) ймовірність події - це ймовірність, привласнена подією (гіпотезі) при відсутності знань, які обумовлюють його наступ. Такі знання також називають свідоцтвами або підставами. Апріорна ймовірність події позначається Р (подія).

Апріорна ймовірність хвороби окремої людини P (хвороба) дорівнює числу людей з цим захворюванням N _бол, поділеній на число людей, що знаходяться під наглядом N _набл

 

.

Апостериорная (умовна) ймовірність події - це ймовірність події за наявності підтвердних свідоцтв, тобто між подією і свідоцтвами є зв'язок. Апостеріорна ймовірність позначається Р (подія | свідоцтво).

Апостеріорна ймовірність хвороби окремої людини з симптомом P (хвороба | симптом) дорівнює відношенню число людей, що мають захворювання і симптом одночасно N _{бол + симп}, поділене на кількість людей з симптомом N _симп

 

.

У той же час один і той же симптом може виявлятися при різних захворюваннях. Тому для розрахунку апостеріорної ймовірності в разі конкуруючих гіпотез H _I (i = 1..N) використовують формулу Байеса

 

,

де P (E | H _I) - апостеріорна ймовірність істинності свідоцтва Е при істинності гіпотези H _I;

P (Н _i) і P (Е) - відповідно, апріорна ймовірності істинності гіпотези Н _i і свідоцтва E.

Апріорні ймовірності P (Н _i) і P (Е) задаються експертами і розраховуються на основі класичної теорії ймовірності. Апостеріорну ймовірність P (E | H _I) достовірно встановити експертним шляхом простіше, ніж P (H _I | E), в силу незалежності гіпотез Н _i один від одного (рис.3.15). Наприклад, простіше встановити істинність, що у хворого на менінгіт болить голова, ніж у людини з болящій головою менінгіт.

 

Рис.3.15. Незалежність гіпотез

(W - універсум гіпотез Н _i при істинності (заштриховано) і хибності (Не заштриховано) свідоцтва E)

В ЕС байесовский підхід зазвичай розглядається як спосіб переоцінки наших уявлень на базі досвіду і використовується при виведенні (пошуку рішення) серед конкуруючих гіпотез. Вона знайшла широке застосування при розпізнаванні образів, в експертних системах (наприклад, ЕС PROSPECTOR) і т.д.

Приклад розрахунку апостеріорної ймовірності.

У магазині є лампи з трьох заводів. Необхідна інформація для розрахунку представлена ​​в табл.3.1.

Таблиця 3.1

	Завод № 1	Завод № 2	Завод № 3
Кількість ламп у магазині, шт.
Відсоток браку продукції,%

Нехай подія H ₁ полягає в тому, що обрана лампа зроблена на першому заводі, H ₂ на другому, H ₃ - на третьому заводі, тоді апріорні ймовірності покупки лампи з конкретного заводу

P (H ₁) = 30/100 = 0.3, P (H ₂) = 50/100 = 0.5, P (H ₃) = 20/100 = 0.2.

Нехай подія E полягає в тому, що обрана лампа виявилася бракованою, а E | H _I означає подія, яке у тому, що обрана бракована лампа з ламп, вироблених на i-му заводі

P (E | H ₁) = 5/100 = 0.05; P (E | H ₂) = 3/100 = 0.03; P (E | H ₃) = 2/100 = 0.02.

Ймовірність того, що випадково обрана в магазині лампа виявилася бракованою

P (E) = Σ P (H _I) * P (E | H _I) = 0.3 * 0.05 + 0.5 * 0.03 + 0.2 * 0.02 = 0.034.

Імовірність того, що куплена бракована лампа виготовлена ​​на другому заводі

P (H ₂ | E) = 0.03 * 0.5 / 0.034 = 0.44.

- модифікований байесовский підхід;

4. Модифікований байесовский підхід (автори Дуд, Харт і Нільсон) [ 2, 10 ].

Даний підхід дозволяє обчислити апостеріорні ймовірності, використовуючи шанси (О) і відношення правдоподібності (ОП).

На відміну від імовірності, апріорні шанси на користь якої-небудь події (гіпотези) визначаються, як відношення числа свідчень, що підтверджують подія, до числа свідчень його спростовують. Так, апріорні шанси на користь захворювання хворобою О (хвороба), рівні відношенню числа людей з цією хворобою до числа людей їй не хворіють (із загального числа спостережуваних).

 

.

Т.ч. шанси і ймовірність пов'язані відносинами:

 

.

Апріорні шанси показують, наскільки більш імовірним стає настання події за відсутності свідчень його обумовлюють. Якщо шанси більше 1, то це свідчить більш, ніж про 50% ймовірності настання події, якщо менше 1 - менше 50%, якщо рівні 1 - 50% / 50%.

Відношення правдоподібності конкуруючих гіпотез, виходячи з сили свідчень, визначається через апостеріорні ймовірності за формулою

 

,

де відношення правдоподібності - це ймовірність свідоцтва Е на користь конкретної гіпотези Н, поділена на ймовірність цього свідоцтва за умови хибність даної гіпотези (^Ø Н). Наприклад, якщо ми знаємо ймовірність появи плям висипу серед хворих на вітряну віспу та ймовірність появи висипу серед хворих, але не цією хворобою, то ми можемо обчислити вірогідність захворювання вітряною віспою, якщо є плями висипки.

Відношення правдоподібності, як і шанси, показує, наскільки більш імовірною стає гіпотеза, але вже за наявності свідоцтв. Якщо відношення правдоподібності більше 1, то це свідчить на користь гіпотези, якщо менше 1 - проти неї, якщо дорівнює 1 - свідоцтва не впливають на правдоподібність розглянутої гіпотези.

Спираючись на вищенаведені вирази, апостеріорні шанси по байєсівської схемі можуть бути визначені за висловом

О (Н | Е) = O (Н) * ВП (Н | Е),

де О (Н) - апріорні шанси на користь Н, а О (Н | Е) - результуючі апостеріорні шанси, за умови настання події Е.

При заданих апріорних шансах для конкуруючих гіпотез і свідоцтв, про які відомо, що вони сталися, легко обчислюються апостеріорні шанси, а по ним - і ймовірності. Відношення правдоподібності виходять з простої двовимірної таблиці, що показує, наскільки часто трапляється кожна подія при кожній з гіпотез.

Як приклад скористаємося даними наступних двох таблиць.

Таблиця 3.2

Ставлення до паління	Тривалість життя	Всього
більше 75 років	75 років і менше
Курять
Некурящі
Всього

Таблиця 3.3

Пол	Тривалість життя	Всього
більше 75 років	75 років і менше
Чоловіки
Жінки
Всього

У табл.3.2 містяться дані по 100 померлим людям, з яких 44 померли у віці за 75 років, а іншим було 75 років або менше, причому зазначено, хто серед них був курцем, а хто ні. У табл.3.3 аналогічні дані для цих 100 чоловік з поділом за статевою ознакою.

Апріорні шанси на користь того, що людина проживе більше 75 років:

О (Довгожитель) = 44/56 = 0.786,

а відношення правдоподібності

ОП (Довгожитель | Курящий) = (20/44) / (33/56) = 0.771;

ОП (Довгожитель | палить) = (24/44) / (23/56) = 1.328;

ОП (Довгожитель | Чоловік) = (24/44) / (36/56) = 0.848;

ОП (Довгожитель | Жінка) = (20/44) / (20/56) = 1.273.

Тепер розрахуємо обчислити апостеріорні шанси і ймовірність того, що палить чоловік проживе довге життя

О (Довгожитель | Курящий Ù Чоловік) = ОП (Довгожитель | Курящий) * ВП (Довгожитель | Чоловік) * О (Довгожитель) = 0.771 * 0.848 * 0.786 = 0.514

Р (Довгожитель | Курящий Ù Чоловік) = 0.514 / (1 ​​+ 0.514) = 0.339

Таким чином, навіть маючи розрізнену інформацію (не знаючи, скільки чоловіків і жінок курить), можна обчислити апостеріорну ймовірність.

- теорія доказів (обгрунтування) Демпстера-Шафера та інші.

3.3.4. Врахування неповноти знань і немонотонна логіка

До найбільш відомих способам Врахуванняу неповноти і немонотонності висновків є: немонотонна логіка Макдермотта і Доула, логіка умовчання Рейтера, немонотонна логіка Маккарті, системи замовчувань і перевизначення атрибутів і методів у фреймових і об'єктно-орієнтованих моделях та ін. [ 22 ]

Для організації логічних висновків в інтелектуальних системах з неповними знаннями замість традиційної дедукції застосовується абдукція. Абдукції називається процес формування пояснюватиме гіпотези на основі заданої теорії і наявних спостережень (фактів). Розглянемо найпростіший приклад абдуктівного виводу. Припустимо, теорія містить правило: «ЯКЩО студент добре знає математику, ТО він може стати хорошим інженером» і факт: «Студент Іванов відмінно знає математику». Крім того, є спостереження «Студент Іванов став хорошим економістом», яке не виводиться з заданою теорії. Для того щоб його вивести, необхідно сформувати абдуктівную (що пояснює) гіпотезу, яка не суперечитиме вищенаведеної теорії. Такий гіпотезою може бути, наприклад, наступна: «Хороший математик може стати хорошим економістом».

Абдуктівние висновки використовуються в задачах діагностики для виявлення причин спостережуваного неправильної поведінки систем, в задачах, пов'язаних з розумінням природної мови, для вирішення проблем накопичення та засвоєння знань і т.д.

Одним із способів Врахуванняу неповноти знань і немонотонності висновків є використання замовчувань [ 2 ].

Система замовчувань активно використовується у фреймах і об'єктно-орієнтованих моделях.

 

Рис.3.16. Приклад бази фреймів

Так в базі фреймів, показаної на рис.3.16, на запитання «Чи здатний літати пікколо?» Відповіддю буде «ні», а «Чи здатна літати ЛАСТІВКА?» - «Так».

 

В багатьох задачах для характеристики об'єкта можна виділити набір ознак і для кожного з них визначити полярні значення, що відповідають значенням функції приналежності, 0 чи 1.

Наприклад, в задачі розпізнавання обличчя можна виділити наступні пункти:

x1	висота чола	низький	широкий
x2	профіль носа	кирпатий	горбатий
x3	довжина носа	короткий	довгий
x4	розріз очей	вузькі	широкі
x5	колір очей	світлі	темні
x6	форма підборіддя	гострий	квадратний
x7	товщина губ	тонкі	товсті
x8	колір обличчя	темний	світлий
x9	обрис обличчя	овальне	квадратне

Для конкретного обличчя А експерт, виходячи з приведеної шкали, задає mA(x) Î [0,1], формуючи векторну функцію приналежності { mA(x1), mA(x2),... mA(x9)}.

Непрямі методи визначення значень функції приналежності використовуються у випадках, коли немає елементарних вимірних властивостей, через які визначається потрібна нечітка множина. Як правило, це методи попарних порівнянь. Якби значення функцій приналежності були відомі, наприклад, mA(xi) = wi, i=1,2,...,n, тоді попарні порівняння можна представити матрицею відношень A = {aij}, де aij=wi/wj (операція ділення).