Алгоритми функціонування, програмування і навчання штучних нейронних мереж паралельної обробки сигналів

 

Штучні нейронні мережі (ШНМ) довільної структури можна представити відповідним графом, кожна вершина якого відповідає окремому нейронному елементу (НЕ). Всі НЕ об’єднуються дугами - синаптичними зв’язками, що можуть починатися з виходу довільного НЕ, а також від джерела вхідного сигналу. Задаємо систему повних зв’язків так, що вхід кожної вершини графу з’єднаний з виходами всіх вершин та з усіма джерелами вхідних сигналів синаптичними зв’язками з певними заданими вагами, величини яких встановлюються для заданої структури та при навчанні ШНМ. Відсутність певного зв’язку можна задати його нульовою вагою. Позначаючи кількість входів ШНМ через n_x, а число НЕ - n, маємо n_x+n входів для кожного НЕ. Проходження сигналу з входу на вихід вершини графу передбачає обчислення зваженої суми та перетворення останньої у відповідності з перехідною функцією НЕ. В цьому випадку вичерпним описом навченої ШНМ є представлення довільного НЕ (рис.5.1).

 

Рис.5.1. Нейронний елемент

де x₁,...,x_n - вихідні сигнали НЕ; x_n+1,...,x_n+nx - вхідні сигнали ШНМ; W₁(i),...,W_n+nx(i) - вагові коефіцієнти синаптичних зв’язків і-го НЕ [9].

 

Вихідний сигнал і-го нейронного елемента визначається через сигнали його входів

(5.1)

 

Так як для кожного НЕ в процесі задання структури та навчання ШНМ встановлюється свій набір синаптичних ваг вважаємо, що вони є функціями від дискретного аргумента і - номера НЕ. Крім того кожному НЕ відповідає певна перехідна функція F_i, що є однотипною для гомогенних ШНМ та індивідуальною для гетерогенних. Якщо набір векторів-реалізацій, що подаються на входи ШНМ при навчанні, контролі, використанні пронумерувати довільним чином N=1, 2,..., N_m,.., то кожному номеру реалізації N буде відповідати певний сигнал на виході кожного НЕ, який пов’язується з номером реалізації функціонально, тобто

 

(5.2)

 

де і=1,...,n; N=1, 2,...,N_m.

Назвемо функції вказаного типу, які аргументом мають довільно задані номери реалізацій, вихідними на відміну від перехідних функцій F_i, аргументами яких є зважені суми по відповідних входах. Метою налаштовування гетерогенних ШНМ є встановлення перехідних функцій НЕ, однак останні можуть бути задані на основі відомих вихідних.

Таким чином, навчена ШНМ повністю задається множиною функцій синаптичних ваг {W_j(i)} та множиною вихідних функцій {F_i¹(N)} де j=1,…,n+n_x. При використанні ШНМ на входи останньої подається вектор вхідних сигналів (x_n+1, x_n+2,…, x_n+nx), який можна трактувати як функцію від номера входу {F_N²(i)}, яка є загалом різною для кожної з реалізацій. Таким чином, заданим множинам функцій{W_j(i)}, {F_i¹(N)} та функції {F_N²(i)} відповідає число або вектор, що продукується ШНМ

 

Q [ {Wj(I)}, {fi(N)}, jN(I)]=x, (5.3)

де Q - оператор ШНМ, що є не чим іншим, як функціоналом від відповідних аргументних функцій табличного типу.

В зв’язку з цим пропонується назва розробленої моделі - “Функціонал на множині табличних функцій”(ФТФ). За мету навчання ШНМ ставиться визначення множин аргументних функцій синаптичних ваг, вихідних функцій синаптичних ваг, вихідних функцій НЕ, що забезпечують виконання рівності (1.26) (точне або приблизне) для множини функцій входу {F_N²(i)}, N=1, 2,…

Пропонована модель (5.3) достатньо загального виду, однак вона стала основою для розробки принципово нових парадигм навчання ШНМ, в тому числі і для нових структур типу Feed Forward.

 

Кореляція

 

Коли необхідно визначити подібність між сигналами в різні моменти часу або виділити сигнал на фоні шуму, то здійснюють кореляційну обробку, важливе місце в якій займає обчислення функцій взаємної кореляції. Взаємна кореляційна функція двох часових послідовностей X і Y, кожна з яких містить N відліків записується у вигляді

 

 

Згідно цього виразу взаємна кореляційна функція двох сигналів обчислюється з відносною затримкою r одного сигналу по відношенню до другого.

Кореляційна функція записується у вигляді

 

 

Обчислення кореляційної і взаємнокореляційної функції двох сигналів складається з трьох основних операцій: часової затримки, множення і підсумовування.

 

Сортування

 

Серед всієї сукупності алгоритмів, що реалізують логічну обробку сигналів в системах ЦОС, найчастіше використовуються алгоритми сортування. Задача сортування формулюється наступним чином: для заданої послідовності {x(i)} необхідно отримати нову послідовність {m(i)}, яка складається із елементів {x(i)}, переставлених в необхідному порядку. В основі реалізації алгоритмів сортування лежать дві операції: порівняння і пересилання даних.

Для організації сортування в програмованих процесорах є в наявності достатньо велике число алгоритмів, кожний з яких має свої переваги і недоліки. Виконання сортування програмним шляхом є часомістким. З розвитком технології НВІС в системах ЦОС для реалізації сортування все більше використовуються спеціалізовані апаратні засоби, які дозволяють суттєво зменшити час виконання даної операції.