Постановок задачи классификации с учителем

В зависимости от свойств распределений объектов в пространстве Х применяют или детерминированные (в том числе логические) или вероятностные подходы

- детерминмрованные: лин/нелин разделяющие границы, алгоритмы по близости к центрам классов …

- вероятностные – то же самое, но с учетом вероятностей нахождения объектов в классах.

-Логические (F( if,then (x,a)) – если доминирует логика в расположении классов а не компактность:

Когда же целесообразно применять первые а когда вторые. Рассмотрим общие и различающиеся предпосылки для применения дет. и вероятн. подходов.

Детерминированная постановка	Вероятностная постановка
Общие условия
1. Задается пространство признаков х1 х2 …..хm в котором характеризуются объекты 2. Количество классов задано (К) и каждый класс задается соответствующим перечнем объектов. Перечень представлен матрицей значений признаков. 3.!!!! По определению, каждыйпредъявляемый объект может принадлежать исключительно одному из К классов (важно – так как дальнейшие ньюансы двух постановок именно в этой части формализации задачи) то есть пересечения множеств Æ при * Необходимо найтии правило, наилучшим образом решающее задачу классфикации
Различные условия
А. Детерминированная постановка	Б. Вероятностная постановка
1.Пространство признаков признается полным – то есть достаточным для однозначного определения принадлежности к классу , , Æ при     2. Шум в данных допускается, но он недостаточен для нарушения механизма однозначности классификации в имеющемся пространстве признаков   (гармония с п.3. общих условий)	1.При справедливости Æ признается возможность неполноты пространства признаков Х – то есть наличия информационной недостаточности для однозначного определения принадлежности к классу (отсюда необходимость вероятностного механизма классификации). Это означает пересечения областей классов в Х (при этом см п.3 общих условий) – и необходимо принимать решение о классе по вероятности то есть разные объекты (имена разные) с равными значениями признаков могут сидеть в разных классах 2.Пусть пространство признаков есть исходно полным то есть достаточным для однозначной классификации – однако реальные условия наблюдения, измерения признаков в условиях шумов искажают их значения в той степени что области “заселения” классов в данном пространстве признаков все равно пересекаются То есть, для двух различных (по имени) объектов находящихся в одной точке признакового пространства возможна принадлежность к разным классам.(при этом см п.3 общих условий). НО в результате мы будем находить непересекающиеся по вероятности области классов в Х, приводя их, все равно к Æ

 

 

Однако даже при выбранном варианте постановки – детерм. или вероятн. применяют различные схемы к решению задач классификации.

Что имеется в виду. Упрощенно возможно рассмотреть 3 варианта схемы.

Схемы решения задач классификации

Одну и ту же многоклассовую задачу возможно решать

1. Непосредственно, как многоклассовую, - одним решающим правилом

2. Как ряд независимых задач с разделением классов на подгруппы:

наиболее известный способ – “один против всех”, “ группировки по 2” и т.д.

3. с помощью систем связанных решающих правил

Расмотрим их последовательно