Модель искусственного нейрона

x₁…x_n – входные сигналы нейрона, приходящие от других нейронов. W₁…W_n – синапсические веса.

Умножители (синапсы) – осуществляют связь между нейронами, умножают входной сигнал на число, характеризующий силу связи.

Сумматор – сложение сигналов, поступающих по синапсическим связям от других нейронов.

Нелинейный преобразователь – реализует нелинейную функцию одного аргумента – выхода сумматора. Эта функция называется функцией активации или передаточной функцией нейрона. ;

История развития

Математическая модель искусственного нейрона была предложена У. Маккалоком и У. Питтсом вместе с моделью сети, состоящей из этих нейронов. Авторы показали, что сеть на таких элементах может выполнять числовые и логические операции[4]. Практически сеть была реализована Фрэнком Розенблаттом в 1958 году как компьютерная программа, а впоследствии как электронное устройство — перцептрон. Первоначально нейрон мог оперировать только с сигналами логического нуля и логической единицы[5], поскольку был построен на основе биологического прототипа, который может пребывать только в двух состояниях — возбужденном или невозбужденном. Развитие нейронных сетей показало, что для расширения области их применения необходимо, чтобы нейрон мог работать не только с бинарными, но и с непрерывными (аналоговыми) сигналами. Такое обобщение модели нейрона было сделано Уидроу и Хоффом[6], которые предложили в качестве функции срабатывания нейрона использовать логистическую кривую.

Сегодня, обсуждение нейронных сетей происходят везде. Перспектива их использования кажется довольно яркой, в свете решения нетрадиционных проблем и является ключом к целой технологии. На данное время большинство разработок нейронных мереж принципиально работающие, но могут существовать процессорные ограничения. Исследования направлены на программные и аппаратные реализации нейросетей. Компании работают над созданием трех типов нейрочипов: цифровых, аналоговых и оптических, которые обещают быть волной близкого будущего.

 

Обучение нейронных сетей

Под обучением понимается целенаправленное изменение весовых коэффициентов синоптических связей нейронов сети из условий достижения требуемых характеристик сети, т.е. желаемая реакция на входные воздействия. В основе лежит базовый принцип обучения – минимизация эмпирической ошибки между желаемым выходом сети и фактической реакции сети. Теорема Розенблатта: Для любого данного набора входной векторов и любой требуемой их классификации алгоритм обучения через конечное число шагов приведет к вычислению требуемого набора весов, если таковой существует.

Существует 2 алгоритма обучения: 1) с учителем; 2) без учителя.

Обучение с учителем: обучение, которое производится под контролем внешнего «учителя», который оценивает поведение системы и управляет ее последующими модификациями. Используется в сетях, предназначен-ных для решения задач классификации, аппроксимации, прогнозирования. Обучение без учителя: Сеть путем самоорганизации делает необходимые изменения. Применяется в задачах кластеризации и сегментации для поддержки принятия решений.