Нейросетевые технологии финансово – экономической деятельности.

Нейросетевой подход показал свою эффективность как при решении плохо формализованных задач распознавания, кластеризации, ассоциативного поиска, так и при решении хорошо формализованных, но трудоемких задач аппроксимации функций многих переменных и оптимизационных задач.

При ведении финансово-экономической деятельности нейросетевые технологии используются давно. В решении финансово-экономических задач при увеличении размерности функции для получения требуемой точности необходимо увеличивать число членов базисных функций, что делает практически неприемлемым использование этих методов в задачах большой размерности. Здесь на выручку приходят нейросетевые технологии, которые практически не зависят от размерности функции.

Также в финансово-экономических задачах часто требуется решить задачу распознавания образов, особенно при организации системы безопасного проведения финансовых операций. В качестве основной задачи, в данном случае, ставится задача идентификации рукописной подписи человека и сравнение с оригиналом с последующим выводом совпадения подписей.

Таким образом, нейросетевые технологии применяются в следующих задачах:

- распознавание образов – задача состоит в отнесении входного набора данных, представляющих распознаваемый объект, к одному из ранее известных классов. В частности сопоставление двух подписей на идентичность;

- кластеризация данных – задача состоит в группировке входных данных по присущей им «близости». Алгоритм определения близости данных закладывается в нейросеть при ее построении. Сеть кластеризует данные на заранее неизвестное число кластеров. Наиболее известные применения кластеризации связаны с анализом данных и поиском в них закономерностей;

- ассоциативная память – эта память позволяет считывать содержимое по частичному или искаженному представлению запомненных данных. Основная область применения – мультимедийные базы данных;

- аппроксимация функций – когда имеется набор экспериментальных данных, представляющих значения неизвестной функции. Требуется найти функцию, аппроксимирующую неизвестную и удовлетворяющую некоторым критериям. Эта задача актуальна при моделировании сложных систем и создании систем управления сложными динамическими объектами;

- предсказание – имеется набор значений, представляющих поведение систе6мы в различные моменты времени. Требуется по предыдущему поведению системы предсказать ее поведение в следующий момент времени. Особенно часто эта задача актуальна в системах принятия решений и проведения моделирования экономических процессов;

- оптимизация – целью задачи является найти решение проблемы, удовлетворяющее ряду ограничений и оптимизирующее значение целевой функции.

Термин «нейронные сети (НС)» сформировался в 40-х годах ХХ века в среде исследователей, изучавших принципы организации и функционирования биологических нейронных сетей. Обычно под нейронными сетями подразумевают набор элементарных нейроподобных преобразователей информации – нейронов (греч. – жила, нерв), соединенных друг с другом каналами обмена информацией для их совместной работы.

Предметом исследования нейроинформатики является решение задач переработки информации с помощью нейросетей в различных предметных областях, особенно в плохо формализуемых, где существующие модели субъективны и неадекватны.

С помощью НС можно, например:

- предсказывать показатели биржевого рынка,

- выполнять распознавание оптических или звуковых сигналов

- создавать самообучающиеся системы, способные управлять автомашиной при парковке

- синтезировать речь по тексту и т. д.

В то время как на западе применение НС уже достаточно обширно, у нас это еще в некоторой степени экзотика – российские фирмы, использующие НС в практических целях, наперечет.

Модели НС могут быть программного и аппаратного исполнения.

Несмотря на существенные различия, отдельные типы НС обладают несколькими общими чертами.

Во-первых, основу каждой НС составляют относительно простые, в большинстве случаев – однотипные, элементы (ячейки), имитирующие работу нейронов мозга. Каждый нейрон характеризуется своим текущим состоянием по аналогии с нервными клетками головного мозга, которые могут быть возбуждены или заторможены.

Он обладает группой синапсов – однонаправленных входных связей, соединенных с выходами других нейронов, а также имеет аксон - выходную связь данного нейрона, с которой сигнал (возбуждения или торможения) поступает на синапсы следующих нейронов. Общий вид нейрона приведен на рисунке 6. Каждый синапс характеризуется величиной синаптической связи или ее весом Wj, который по физическому смыслу эквивалентен электрической проводимости.

Текущее состояние нейрона определяется, как взвешенная сумма его входов:

 

(1)

 

 

Рис. 6. Искусственный нейрон

 

Выход нейрона есть функция его состояния:

Y=F(s) (2)

Нелинейная функция F называется активационной и может иметь различный вид, как показано на рисунке 7.

Одной из наиболее распространенных является нелинейная функция с насыщением, так называемая логистическая функция или сигмоид (т.е. функция S - образного вида)

 

(3)

 

При уменьшении a сигмоид становится более пологим, в пределе при a=0 вырождаясь в горизонтальную линию на уровне 0.5, при увеличении a сигмоид приближается по внешнему виду к функции единичного скачка с порогом Т в точке х=0. Из выражения для сигмоида очевидно, что выходное значение нейрона лежит в диапазоне [0,1].

 

 

 

a) b)

 

 

c) d)

 

Рис. 7 a) функция единичного скачка; b) линейный порог (гистерезис); с) сигмоид – гиперболический тангенс;d) сигмоид – формула (3)

 

Одно из ценных свойств сигмоидной функции простое выражение для ее производной,

(4)

Следует отметить, что сигмоидная функция дифференцируема на всей оси абсцисс, что используется в некоторых алгоритмах обучения. Кроме того, она обладает свойством усиливать слабые сигналы лучше, чем большие, и предотвращает насыщение от больших сигналов.

Возвращаясь к общим чертам, присущим всем НС, отметим, во-вторых принцип параллельной обработки сигналов, который достигается путем объединения большого числа нейронов в так называемые слои и соединения определенным образом нейронов различных слоев, а также, в некоторых конфигурациях, и нейронов одного слоя между собой, причем обработка взаимодействия всех нейронов ведется послойно.

 

 

Рис.8 Пример простейшей НС, соединение нейронов одного слоя между собой

 

В качестве примера простейшей НС рассмотрим трехнейронный перцептрон[1] (рис.8), то есть такую сеть, нейроны которой имеют активационную функцию в виде единичного скачка. На n входов поступают некие сигналы, проходящие по синапсам на 3 нейрона, образующие единственный слой этой НС и выдающие три выходных сигнала:

 

(5)

 

Очевидно, что все весовые коэффициенты синапсов одного слоя нейронов можно свести в матрицу W, в которой каждый элемент w_ij задает величину i-ой синаптической связи j-oro нейрона. Таким образом, процесс, происходящий в НС, может быть записан в матричной форме:

Y=F(XW), (6)

где X и Y - соответственно входной и выходной сигнальные векторы, F(V) активационная функция, применяемая поэлементно к компонентам вектора V.

Теоретически число слоев и число нейронов в каждом слое может быть произвольным, однако фактически оно ограничено ресурсами компьютера или специализированной микросхемы, на которых обычно реализуется НС. Чем сложнее НС, тем масштабнее задачи, подвластные ей.

Выбор структуры НС осуществляется в соответствии с особенностями и сложностью задачи. Для решения некоторых отдельных типов задач уже существуют оптимальные, на сегодняшний день, конфигурации, Если же задача не может быть сведена ни к одному из известных типов, разработчику приходится решать сложную проблему синтеза новой конфигурации. При этом он руководствуется несколькими основополагающими принципами:

- возможности сети возрастают с увеличением числа ячеек сети,

- возможности сети возрастают с увеличением плотности связей между ними,

- возможности сети возрастают с увеличением числа выделенных слоев (число слоев влияет на способность сети выполнять классификацию плоских образов),

- сложность алгоритмов функционирования сети (в том числе, например, введение нескольких типов синапсов – возбуждающих, тормозящих и др.) также способствуют усилению мощи НС,

- однако введение обратных связей наряду с увеличением возможностей сети поднимает вопрос о динамической устойчивости сети.

Вопрос о необходимых и достаточных свойствах сети для решения того или иного рода задач представляет собой целое направление нейрокомпьютерной науки. Так как проблема синтеза НС сильно зависит от решаемой задачи, дать общие подробные рекомендации затруднительно. В большинстве случаев оптимальный вариант получается на основе интуитивного подбора.

Очевидно, что процесс функционирования НС, то есть сущность действий которые она способна выполнять, зависит от величин синаптических связей, поэтому, задавшись определенной структурой НС, отвечающей какой-либо задаче, разработчик сети должен найти оптимальные значения всех переменных весовых коэффициентов (некоторые синаптические связи могут быть постоянными).

Этот этап называется обучением НС и от того насколько качественно он будет выполнен зависит способность сети решать поставленные перед ней проблемы во время эксплуатации. На этапе обучения кроме параметра качества подбора весов важную роль играет время обучения. Как правило, эти два параметра связаны обратной зависимостью и их приходится выбирать на основе компромисса.

Обучение НС может вестись с учителем или без него.

В первом случае сети предъявляются значения как входных, так и желательных целевых выходных сигналов (образов), и она по некоторому внутреннему алгоритму подстраивает веса своих синаптических связей. Для их успешного функционирования необходимо наличие экспертов, создающих на предварительном этапе для каждого входного образа эталонный выходной.

Во втором случае выходы НС формируются самостоятельно; а веса изменяются по алгоритму, учитывающему только входные и производные от них сигналы.

Так как создание искусственного интеллекта движется по пути копирования природных прообразов, ученые не прекращают спор на тему, можно ли считать алгоритмы обучения с учителем натуральными или же они полностью искусственны. Например, обучение человеческого мозга, на первый взгляд, происходит без учителя: на зрительные, слуховые, тактильные и прочие рецепторы поступает информация извне, и внутри нервной системы происходит некая самоорганизация. Однако нельзя отрицать и того, что в жизни человека не мало учителей - и в буквальном, и в переносном смысле, которые координируют внешние воздействия.

Главная черта, делающая обучение без учителя привлекательным, - это его "самостоятельность". Процесс обучения, как и в случае обучения с учителем, заключается в подстраивании весов синапсов. Некоторые алгоритмы, правда, изменяют и структуру сети, то есть количество нейронов и их взаимосвязи.

Очевидно, что подстройка синапсов может проводиться только на основании информации, доступной в нейроне, то есть его состояния и уже имеющихся весовых коэффициентов.

Существует великое множество различных алгоритмов обучения, которые однако делятся на два больших класса: детерминистские и ч стохастические. В первом из них подстройка весов представляет собой жесткую последовательность действии, во втором - она производится на основе действий, подчиняющихся некоторому случайному процессу.

Развивая дальше вопрос о возможной классификации НС, важно отметить существование бинарных и аналоговых сетей.

Первые из них оперируют с двоичными сигналами, и выход каждого нейрона может принимать только два значения: логический ноль ("заторможенное" состояние) и логическая единица ("возбужденное" состояние). К этому классу сетей относится и рассмотренный выше перцептрон, так как выходы его нейронов, формируемые функцией единичного скачка, равны либо 0, либо 1.

В аналоговых сетях выходные значения нейронов способны принимать непрерывные значения, что могло бы иметь место после замены активационной функции нейронов перцептрона на сигмоид.

Еще одна классификация делит НС на синхронные и асинхронные. В первом случае в каждый момент времени свое состояние меняет лишь один нейрон. Во втором - состояние меняется сразу у целой группы нейронов, как правило, у всего слоя. Алгоритмически ход времени в НС задается итерационным выполнением однотипных действий над нейронами.

Сети можно классифицировать по числу слоев. На рис. 9 представлен двухслойный перцептрон, полученный из перцептрона с рисунка 8 путем добавления второго слоя, состоящего из двух нейронов.

 

 

Рис. 9 Двухслойный перцептрон

 

Разделяют также три вида нейронных сетей: с прямыми связями, с перекрестными связями, с обратными связями.

При организации сети с прямыми связями каждый узел последующего уровня может быть связан только с узлом предыдущего уровня. Эта технологии нейронной сети позволяет строить линейные модели представления знаний, требующих определения всех значений предыдущих уровней.

Для организации сети, где возможны «скачки» через уровень, используется нейронная сеть с перекрестными связями. В этомслучае узлы верхних уровней могут быть связаны и получать данных от любых узлов любого из нижестоящих уровней. Этот вариант позволяет построить такую сеть, которая будет зависеть не только от состояния предыдущего уровня, но и от множества других нижестоящих уровней.

Если же необходимо построить сеть, где возможны циклические влияния узлов друг на друга, строиться нейронная сеть с обратными связями. Эта сеть никоим образом не определяет строгой последовательности движения нейронов по сети, кроме как функциональными зависимостями данных, которые могут требовать использования для вычисления будущих состояний. Эту сеть можно использовать при организации систем прогнозирования.

Разнообразие этих алгоритмов ничем не ограничено, так как можно использовать нейроны с различными функциями активации, различными функциями состояния, двоичными, целочисленными, вещественными и другими значениями весов и входов.

Общая идея применения нейронных сетей основана на запоминании сетью предъявляемых ей примеров и выработке решений, согласованных с запомненными примерами.

Практическая реализация этих положений подразумевает, во-первых, минимизацию объема памяти, требуемой для запоминания примеров, и, во-вторых, быстрое использование запомненных примеров, исключающее применение традиционных памятей с произвольной или последовательными выборками.

Классы нейронных сетей называются нейропарадигмами, которые характеризуются:

- составляющими их нейронами (число входов, функция состояния, функция активации каждого нейрона или каждого слоя нейронов);

- типом графа межнейронных связей (с прямыми связями, перекрестными или обратными связями);

- способом формирования связей и весов связей (конструируемые, наблюдаемо – обучаемые, ненаблюдаемо – обучаемые, смешанно – обучаемые).

Эффективность решения задач с применением нейронных сетей зависит от выбранной нейропарадигмы и полноты базы данных примеров.

Нейроинформатика находится в стадии интенсивного развития. Ежегодно проводится ряд международных конференций по нейросетям и число специализированных периодических изданий по этому вопросу более 20.

Основное место на рынке услуг, оказываемых реальному пользователю нейроинформатикой, сейчас занимают финансовые приложения. Объясняется это тем, что нейросети эффективно справляются с задачами классификации, моделирования и экстраполирования (прогнозирования, предсказания), что особенно важно при решении финансово – экономических проблем. На мировом рынке представлено более сотни нейросетевых пакетов, преимущественно американских. Объем рынка нейронных сетей превышает 1 млрд. долларов в год. Более того, практически каждый разработчик программного обеспечения стремится включить нейронные сети в новые версии своих программ.

Пакет The Al Trilogy (Трилогия искусственного интеллекта) американской фирмы Ward Systems Group, ключевые компоненты которого написаны российскими программистами, – это набор из трех программ, построенных по модульному принципу:

- программа NeuroShell II – набор из 16 типов нейронных сетей;

- программа NeuroWindows – нейросетевая библиотека с исходными текстами;

- программа GeneHunter – генетическая программа оптимизации.

В совокупности они образуют мощный «конструктор», позволяющий строить аналитические комплексы любой сложности.

Во время подготовки презентации русской версии «Трилогии» были взяты реальные данные о портфеле небольшой финансовой компании из Калифорнии, играющей на рынке так называемых индексных опционов. Проведение средствами «Трилогии» классической последовательности - Анализ, прогноз, оптимизация - позволило в первый день «сделать» 25 тыс. долларов» при величине портфеля в 2 млн. долларов, а во второй – добавить еще 40 тыс. долларов.

В России наиболее известными приложениями нейросетевых информационных технологий можно признать следующие:

- прогнозирование котировок фьючерсов;

- краткосрочная динамика курсов валют;

- прогноз оптовых цен на продукты питания;

- оценка кредитных рисков;

- оценка объектов недвижимости;

- прогноз развития чрезвычайных ситуаций;

- авторизация доступа по индивидуальному «почерку» работы за клавиатурой компьютера и т.д.

Сфера финансовых приложений практически безгранична. Любая задача, связанная с манипулированием финансовыми инструментами – валютой или ценными бумагами – сопряжена с риском и требует тщательного расчета и прогнозирования. Как изменится завтра котировка основных валют? Вернет ли кредит внешне благополучная фирма? Эти и множество других вопросов помогут решить нейросетевые финансовые приложения.

Проверочные тесты к теме 1

 

1.1. Каким диапазоном значений оперирует Нечеткая логика?

а.) Да/Нет

б) Плохо/хорошо/отлично

в) от 0 до 9

г) Слова естественного языка

д) Объекты реального мира

 

1.2.Какой элемент в структуре Интеллектуальной системы содержит правила обработки знаний?

а) База знаний

б) Интерпретатор

в) Лингвистический процессор

г) Блок аргументации

д) Метапроцедуры

 

1.3.Каким свойством обладает экспертная система?

а) Кодирование программы

б) Накопление и организация знаний

в)) Формирование текста на естественном языке

г)) Принятие решений

д) Вычисление статистических данных

 

1.4.Какие функции выполняет Инженер знаний

а) Организует знания

б) Моделирует стратегии поиска решений

в) Использует ЭС для поиска решений

г) Добавляет информацию в базу знаний

д) Строит экспертную систему

 

1.5.В каких задачах применяются нейросетевые технологии?

а) Аппроксимация функций

б) Статистическая обработка

в) Формализация естественного языка

г) Вычислительные задачи

д) Кодирование программ