Глава 4. Тестирование работы алгоритма и исследование полученных результатов

Исследование правильности построения продукционных правил

Возьмем небольшую обучающую выборку (табл. 4.1), рассмотренную Р.Куинланом в работе [4].

Таблица 4.1 Обучающая выборка

 

№	Outlook (Погода)	Temperature (Температура)	Humidity (Влажность)	Wind (Ветер)	Play ball? (Играть в мяч?)
	sunny	hot	high	weak	No
	sunny	hot	high	strong	No
	overcast	hot	high	weak	Yes
	rain	mild	high	weak	Yes
	rain	cool	normal	weak	Yes
	rain	cool	normal	strong	No
	overcast	cool	normal	strong	Yes
	sunny	mild	high	weak	No
	sunny	cool	normal	weak	Yes
	rain	mild	normal	weak	Yes
	sunny	mild	normal	strong	Yes
	overcast	mild	high	strong	Yes
	overcast	hot	normal	weak	Yes
	rain	mild	high	strong	No

 

В данной обучающей выборке объекты характеризуются значениями 5 признаков – Outlook, Temperature, Humidity, Wind, Play ball. Последний атрибут является целевым, он определяет два возможных класса (yes,no). Для начала построим набор продукционных правил с помощью алгоритма CN2 и сравним полученный результат с деревом из работы Р. Куинлана. Так как дерево может быть представлено в виде набора продукционных правил, мы сможем оценить эффективность разработанного алгоритма CN2.

Однозначного сходства полученных в результате обучения продукционных правил с правилами из алгоритма ID3 добиться не получилось, в силу того, что в алгоритме CN2 выбор очередного примера SEED, а также , имеет «случайный» характер, что значительно влияет на полученные продукционные правила.

На рисунке 4.1 представлены продукционные правила, полученные с помощью алгоритма CN2 и дерево решений из статьи Р. Куинлана.

а)

 

б)

 

 

Рис. 4.1 Полученные продукционные правила (а – программная реализация, б – из статьи Р.Куинлана)

 

Так как на рисунке 4.1 изображены две разные модели представления правил, для удобства преобразуем дерево решений в набор продукционных правил:

 

1) Если Outlook= Sunny & Humidity = High, то Play Ball = false

2) Если Outlook= Sunny & Humidity = Normal, то Play Ball = true

3) Если Outlook= Overcast, то Play Ball = true

4) Если Outlook= Rain & Wind = Strong, то Play Ball = false

5) Если Outlook= Rain & Wind = Weak, то Play Ball = false

 

Преобразованные правила из дерева решений ID3 имеют сходство с правилами, полученными с помощью алгоритма CN2, что говорит о корректной работе реализованного алгоритма.

 

4.2. Оценка точности классификации примеров(с помощью алгоритма CN2)

В этом разделе мы изложим результаты экспериментов на данных задач монахов. Далее задачи монахов будут обозначены как Monk 1, Monk 2 и Monk 3.