Нечеткая нейронная сеть архитектуры ANFIS

ANFIS – адаптивная НС, основанная на системе нечёткого вывода(adaptive network based Fuzzy Inference System). Часто структура гибридной нейронной сети зависит от области применения. Так как архитектура часто используется как контроллер в реальных устройствах управления, то правая часть правила представлена чёткой линейной комбинацией переменных. Реализация логической функции «И» выполнена не с помощью функции min, а с помощью операции произведения. Обучается данная архитектура стандартным алгоритмом обратного распространения ошибки.

Приведем структуру ANFIS – адаптивной НС для двух правил:

ЕСЛИ x₁ = A₁ И x₂ = B₁ ТО y₁ = c₁₁x₁ + c₁₂x₂

ЕСЛИ x₁ = A₂ И x₂ = B₂ ТО y₂ = c₂₁x₁ + c₂₂x₂

Выход ННС формируется по формуле:

y = (w₁ y₁ + w₂ y₂) / (w₁ + w ₂)

Слои ННС ANFIS выполняют следующие функции.

1. Слой 1 представлен радиальными базисными нейронами и моделирует функции принадлежности.

2. Слой 2 – это слой И-нейронов, которые моделируют логическую связку И произведением

w_i = m_Ai(x₁) m_Bi(x₂).

3. Слой 3 вычисляет нормированную силу правила:

<w_i> = w_i / (w₁ + w₂)

4. Слой 4 формирует значение выходной переменной:

y(x₁, x₂) = <w_i> y_i = <w_i> (c_i1 x₁ + c_i2 x₂).

5. Слой 5 выполняет дефазификацию:

y = <w₁> y₁ + <w₂> y_2.

При разработке прикладного интеллектуального контроллера используют следующую процедуру проектирования:

1. Анализ проблемной области. Определяют значимые входные и выходные параметры, значения параметров, лингвистические шкалы.

2. Получение обучающей выборки с помощью реальных или вычислительных экспериментов, обычно конкретный производитель оборудования имеет накопленные библиотеки таких выборов.

3. Формирование правил. Может использоваться универсальная матрица всех возможных связей входов с выходом, которая затем обучается, либо сокращённое множество правил, составленное из предыдущего опыта.

4. Формируется стандартная архитектура ННС, например, ANFIS.

5. Осуществляется обучение ННС на обучающей выборке, в результате чего определяются как веса связей, так и параметры функции принадлежности.

Пример функционирования нечеткого нейронного контроллера

Нечёткий контроллер – интеллектуальная система, основным назначением которой является управление внешним объектом, при котором поведение управляемого объекта описывается нечёткими правилами.

Нечёткий контроллер (регулятор, управляющее устройство) – регулятор, построенный на базе нечёткой логики.

Сущности управляемого процесса – «входные переменные» и «выходные переменные», относящиеся к классу лингв-их переменных.

Управление – манипулирование процессом в контуре обратной связи для получения оптимальных значений определенных выходных переменных.

Управляющие переменные – их значения возвращаются на объект управления.

Управление:

1. определить текущие значения значимых выходных переменных

2. сравнить текущие выходные значения с заданными целевыми

3. подобрать значения управляющих переменных так, чтобы достичь целевых значений

4. повторять п1-3 пока не будут получены целевые значения.

Для реализации нечёткого контроллера необходимо:

Определить входные переменные.

2. преобразовать четкие значения входных переменных в нечёткие использовать правила преобразования нечётких выходных значений в нечёткие значения управляющих переменных. (Правила в виде если … то …, например, если давление высокое, то кран закрыть. Подчеркнуто – имена объектных переменных, курсив – нечёткие значения переменных)

3. преобразовать нечёткие значения управляющих переменных в четкие.

Пример. Нечёткий регулятор для стиральной машины (архитектура ANFIS)

Задача нечёткого моделирования – это настройка функций принадлежности – задачей оптимизации. Самый простой подход к настройке функций принадлежности заключается в том, что выбирают определенную параметризованную функцию формы и подбирают ее параметры на основе обучения нейронной сети.

Рассмотрим простой контроллер с тремя нечёткими правилами вывода в БЗ.

R₁: ЕСЛИ <количество_белья> = <много> И <температура_воды> = <высокая> И <загрязненность> = <высокая>

ТО <длительность> = <высокая>;

R₂: ЕСЛИ <количество_белья> = <много> И <температура_воды> = <высокая> И <загрязненность> = <низкая>

ТО <длительность> is <низкая;

R₃: ЕСЛИ <количество_белья> = <мало> И <температура_воды> = <низкая> И <загрязненность> = <низкая>

ТО <длительность> = <малая>;

Зададим следующие функции формы для правил.

1. Пусть выражение <количество_белья> = <мало> соответствует функции L₁ (x), а <количество_белья> = <много> – функции H₁ (x).

L₁ (x) = 1/(1 + exp(b₁ (x - c₁)),

H₁ (x) = 1/(1+exp(- b₁ (x - c₁)),

причем L₁ (x) + H₁ (x) = 1.

2. Аналогично для выражения <температура_воды> = <высокая> будем использовать функцию L₂ (t), а для <температура_воды> = <низкая> – функцию H₂ (t).

L₂ (t)= 1/(1 + exp(b₂ (t - c₂)),

H₂ (t)= 1/(1 + exp(- b₂ (t - c₂)),

причем L₂ (t) + H₂ (t) =1.

3. Для выражения <загрязненность> = <высокая> определим функцию L₃ (z) и для <загрязненность> = <низкая> – функцию H₃ (z).

L₃ (z)= 1/(1 + exp(b₃ (z - c₃)),

H₃ (z)= 1/(1 + exp(- b₃ (z - c₃)),

L₃ (z) + H₃ (z) =1.

4. Для выходов <длительность> = <высокая> и <длительность> = <низкая> аналогично определим функции

L₄ (y)= 1/(1 + exp(b₄ (y - c₄)),

H₄ (y)= 1/(1 + exp(- b₄ (y - c₄)),

то есть L₄ (x) + H₄ (x) = 1.

Для четких значений <количество_белья>, <температура_воды> и <загрязненность>: A₁, A₂, A₃ определим релевантность (силу) правил a:

a₁ = H₁ Ù H₂ Ù H₃,

a₂= H₁ Ù H₂ Ù L₃,

a₃= L₁ Ù L₂ Ù L₃.

Выходы по каждому из правил определяется с помощью обратных функций принадлежности правых частей правил.

Y₁= H₄^-1 (a₁),

Y₂= H₄^-1 (a₂),

Y₂= L₄^-1 (a₃).

Общий выход из системы нечётких правил определяется как

y₀ = (a₁ y₁ + a₂ y₁ + a₃ y₁)/ (a₁ + a₂ + a₃).

Далее построим нечёткую нейронную сеть, идентичную системе нечёткого вывода и обучим функции принадлежности анцедента (причина) и консеквента (следствие) правил.

1. Слой 1. Выходы узлов – это степени, c которыми заданные входы удовлетворяют функциям принадлежности, ассоциированным с этими узлами.

2. Слой 2. Каждый узел вычисляет силу правила.

Выход верхнего нейрона a₁ = H₁ Ù H₂ Ù H₃,

выход среднего нейрона a₂ = H₁ Ù H₂ Ù L₃,

а выход нижнего нейрона a₃ = L₁ Ù L₂ Ù L₃.

Все узлы помечены T, так как можно выбрать любую T -норму для моделирования логического И. Узлы этого слоя называются узлами правил.

3. Слой 3. Каждый узел помечен N, чтобы показать, что узлы нормализуют силу правил b_i= a_i / (a₁ +a₂ + a₃).

4. Слой 4. Выход нейронов – это произведение нормализованной силы правила и индивидуального выхода соответствующего правила.

b₁Y₁ = b₁H₄^-1 (a₁), b₂Y₂ = b₂H₄^-1 (a₂), b₃Y₂ = b₃L₄^-1 (a₃).

5. Слой 5. Одиночный выходной нейрон вычисляет выход сети

y₀ = b₁Y₁ + b₂Y₂ + b₃Y₂.

Алгоритмы обучения для неч-ой нейр-ой сети контроллера

Пусть задана четкая обучающая выборка

{(x₁ ,t_1, z_1, y₁),…(x_k, t_k, z_k, y_k)}, где x, t, z – входные условия количества белья, температуры воды и загрязненности, а y – длительность стирки. Ошибку на k -ом образце определим как обычно

E ^k =1/2 (O_i -Y_i)².

Используем традиционный градиентный метод для обучения параметров левой и правой частей неч-их правил. Покажем, как можно настроить параметры функции формы.

b₄ (t + 1) = b₄ (t) - z (¶ E/¶b₄), c₄ (t + 1) = c₄ (t) - z (¶ E/¶c₄), c₁(t + 1) = c₁ (t) - z (¶ E/¶c₁).

Используя данные соотношения как правила изменения весов в алгоритме обратного распространения ошибки, можно настроить параметры функций принадлежности в ходе обучения нечёткой нейронной сети.

Примеры интеллектуальных систем.

1. Системы проверки грамматики и правописания при подготовке текстов

2. Системы распознавания текстов (Cuneform, FineReader)

3. Системы распознавания речи (Горыныч)

4. Поисковые системы в Internet, к которым можно обращаться с запросами на естественном языке (Апорт, Яндекс)

5. Автопилоты взлета/посадки

6. Программы перевода.

7. Экспертные системы.

Понятия И и ИЛИ - нейрона.

См. вопрос 25

Архитектура нечеткой нейронной сети.

Понятие данных и знаний.

Технология обработки данных является базовой технологией для создания ЭИС. Основным инструментом такой технологии является СУБД. Если система использует базу знаний, то такая система является интеллектуальной системой (Пр. база знаний – база правил «если…то»).

Знания отличаются от данных возможностью интерпретации. Заголовок любой реляционной таблицы является элементом знаний в отличии от содержимого таблицы. Резкой границы между БД и БЗ не существует. Современные развитые СУБД такие как Oracle объединяют 2 технологии, используемые как реляционные БД, так и базы бизнес-правил.

БЗ

Обработка данных и знаний

Пользователь

БД

Особенностью ИТ является использование обработчика знаний, который на базе логического вывода формирует результат с помощью стандартного метода, поэтому разработка интеллектуальных систем редко предполагает разработку программ, а основная трудоёмкость сосредоточена в разработке баз данных и знаний.

Знания, хранимые в алгоритмах и программах, называются процедурными, а знания, хранимые в БД и БЗ, называют декларативными. Разработка интеллектуальных систем чаще связана с разработкой деклараций, чем процедур.