Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
ДЫ \ ^ т"
a (n+l) = a (n) + K*[x(n) -b(y,n)f —— sign[ Е a. (n)x.(n)] ,
ay i-0 J
j-l, ¦ • • , 5;
-------------------------------------mn
%(n+l) = a..(n) + K**[x(n) - Цу,п)Т sign [ain)x.(n)] ,
ay
i= 1....j=l,..., 5;
Щ, n+l)= Ъ(у, n) + n)].
Экспериментальное исследование данного алгоритма показало, что скорость сходимости при нахождений некоторой локальной моды мала и причиной этого является применение в многослойной системе нейронов с двумя решениями, которые в значительной степени «загрубляют» информацию о градиенте функционала вторичной оптимизации при квантовании выходного сигнала. В связи с этим основным предметом исследования являлась двухслойная нейронная сеть, по струк-
туре подобная описанной выше, но состоящая из нейронов с континуумом решений. Для данной системы:
1 ^=5 ? Н=4. N
у = 1 + - 2 [я arctg В{ 2 а. тс arc tg В (2a.x.)-/c}+l];
* J-1 1 1=0 J
а.(п+1) = а.(п) + Щх - b(y,n)f - х 1 1 оу
*-------------------------------------------------->
В
Х”Аi И. 2 w х
1+2 a,(n)F arctg В [2а. (п)хДп)-/с ]2 j=l 1 1=0 ' '
N
х arctg в[2а«(п)х{(п)] ; (12.10)
i=0 J
%(п+1) = а../п) + К**[х - b(y,n)f х
---------^-------------------------------------------
х- ^ 52а3.(п)х{(п)
кр 1 l+l! а.(п) \ arctg В [Ёа,.(п)х{-к ]2 j=l t=0 ___________________________m.
1+(В 2а(п)х1(п))2 г=0
Ыу, п+1)= Цу, п) + К***[х - Ь(у, П)] . (12.12)
Реализованный алгоритм представляет собой последовательность следующих этапов:
1) в память вводятся случайные или определенные начальные значения координат центров классов и настраиваемых коэффициентов данной двухслойной нейронной сети;
2) производится подсчет векторов ЭЬ(у)/ду;
3) на вход нейронной сети поступает образ х;
4) по данному х и состоянию многослойной нейронной сети 8 данный момент времени вычисляется значение у;
5) выбираются векторы Ь(у) и дЪ(у)/ду, соответствующие данному у;
6) с использованием результатов пп.З, 5 вычисляются новые значения настраиваемых коэффициентов нейронной сети и центров классов;
7) при подаче на вход следующего образа повторяется алгоритм по пп.4-6;
8) после нахождения локального экстремума алгоритм повторяется по пп. 1~7.
На рис. 12.36 представлены линии равного значения плотности распределения /(х), используемой при исследовании данного алгоритма. Оптимальные значения настраиваемых коэффициентов нейронов первого слоя данной нейронной сети. 9, 21, 27, ^22"”^* ^23' ^24—
Рис.12.36. Линии равных значений плотности распределения f(x): I-оптимальное положение разделяющих гиперплоскостей; 2-линии равного значения плотности распределения входного сигнала для различных дисперсий распределений, представляющих моды f(x)
Нейрон второго слоя с Кр= 5 решениям должен реализовывать логическую функцию, представленную в табл. 12.6. Условием формирования правильного решения у является формирование соответствующего промежуточного значения аналогового выходного сигнала g(n)=j/-0,5. На основании этого
Таблица 12.6
У 1 2 3 4 5
У\ -1 1 1 1 1
Уч -1 -1 1 1. 1
Уз -1 -1 -1 1 1
У4 -1 -1 -1 -1 1
a3i а32 1’ азз а34 I-
может быть составлена система алгебраических уравнений для определения оптимальных коэффициентов нейрона второго слоя:
-Oj - а2 - а3 - а4 +2,5 = 0,5;
+ а2 - а3 - а4 +2,5 = 2,5; + а2 + аз - а4 +2,5 = 3,5; + а2 + а3 + а4 +2,5 = 4,5.
Отсюда
= а2 = а3 = а4 = 0,5.
Эксперименты с рассматриваемой двухслойной нейронной сетью проводились в соответствии со следующим планом:
1. Эксперимент с различными дисперсиями распределений, составляющих моды /(х) (рис. 12.36).
2. Коэффициенты нейрона второго слоя оптимальны, значе-яУя центров классов оптимальны. Для коэффициентов нейронов первого слоя задавались следующие различные условия:
а) коэффициенты нейронов первого слоя оптимальны;
б) начальные значения коэффициентов нейронов первого слоя задавались с равным отклонением от оптимальных;
в) начальные значения коэффициентов нейронов первого слоя задавались с различными по величине и по знаку отклонениями от оптимальных.
3. Коэффициенты нейронов второго слоя оптимальны; при неоптимальных начальных значениях центров классов проводились эксперименты, аналогичные пп. 2а и 26.
