Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
-—-—-=-2 xg(n) sign а2(г, n) sign хц(п). (10.28)
О Дц(1| п)
Получаем выражение для рекуррентной процедуры настройки весовой вектор-функции первого слоя:
а(г, п+1) = а(г, п) +2К*(г) x9(n) sign х9(п) х
--ТП
xsigno2(i, n) signx(n) п. (10.29)
Здесь К*(г) - [L°xL°] - матрица функций параметра i, где L0 - размерность вектора признаков х(п).
10.8. Континуальный слой нейронов с кусочнопостоянными весовыми функциями
10.8.1 Разомкнутая структура слоя
Отрезок, на котором генерируется весовая функция, разбивается на равные отрезки длины т. Разбиение фиксировано, а амплитуда прямоугольников as (s ~ номер отрезка разбиения) изменяется в процессе обучения (рис. 10.7)
Рис. 10.7. Схема разомкнутой структуры континуального слоя нейронной сети с кусочно-посто-янными весовыми функциями
Используя функции h(i) =
1, г >0 0, г<0
представим а(г) в следующем виде:
S
а(г) = X a(h(i-(s~l)t)-h{i-st)).
s=l s
Введем обозначение
H(i, s) = h(i-(s-l)t)-h(i~st).
Тогда
a(t) = 2 a H(i, s).
s=l s
Континуум нейронов описывается выражением
L
x{i) = sign ( E a,(i) x, + a0(i')).
В (10.31) ls~l
2 als H(t, s).
_ S = 1
Тогда s L
x{i) = sign [ ^H(i, s) ( 2 Q-iJf) a0s)]. s=l 1=1
(10.30)
(10.31)
Используя определение функции H(i, s), получаем 5 L
х(г) = ?н(г, s) sign (2 a,s x; + aQs). (10.32a) s=l 2=1
Из (10.32) следует, что данная структура представляет собой слой нейронов вида L
x(s) = sign (X a(sx, + a0j); (s-1) т < г < sr, (10.33)
причем выходы нейронов в течение равных отрезков времени г по очереди подключаются ко входу следующего слоя нейронов. Функция Н(г, s) играет роль коммутатора (переключателя) выходов слоя нейронов. Структура, соответствующая (10.33), изображена на рис.10.7.
10.8.2 Рекуррентная процедура настройки кусочнопостоянных весовых функций
Рекуррентная процедура настройки континуального слоя нейронов в случае двухслойной нейронной сети имеет следующий вид:
а(г, п+1) = а(г, п)+2 К*(г) xg(n) sign а2(г, n) sign Xj(n) n. (10.34)
Рассмотрим частный случай процедуры обучения, когда матрица функций К*(г) является диагональной.
Пусть весовая функция нейрона второго слоя кусочно-постоянна. Тогда на каждом s-м отрезке имеем
a2(i,n) = a2s(n)=const. (10.34a)
Так как s
аj(i) = s) > (10.35)
S
K*(i) = E K~ H(i, s), (10.36)
S=1
где Ks - диагональная числовая матрица на s-м отрезке. Тогда для s-ro отрезка аппроксимации процедура настройки будет иметь вид
' ш
as(n+l) = as(n) +2 К (n) xg(n) sign a2s(n) sign Xj(n) n. (10.37)
10.8.3 К вопросу об оценке матрицы K*(i)
Выше получено выражение для компонент диагонали матрицы К*(г) в случае двухслойной континуальной нейронной сети:
K*(i) =-(Rn+l(i) ~ RnU)) Ay\ . (10.38)
Здесь AyX= CYX sign a2(i), где Cyx - численная матрица (не зависит от г); а2(г) в данном случае кусочно-постоянная весовая функция нейрона второго слоя, т.е. постоянная на s-м отрезке. С учетом (10.35)
К(п)=1к(п)Я(г, s),
5 (10-39)
.й(п+1)=Хй,(п+1)Н(г, s).
S = 1 8
Из (10.36) и (10.39) следует, что на s-м отрезке
Ks(n) =-(Rs(n+l) - Rs(n)) . (10.40)
10.9.Континуальный слой нейронов с кусочнолинейными весовыми функциями
10.9.1 Разомкнутая структура слоя нейронов
Рассмотрим континуальный слой нейронов с весовыми
функциями вида, представленного на рис.10.8:
S
а,(г)= 2 (aslli +as0l) Н(г, s). (10.41)
S—1 ' ’ ' ’
В этом случае выходной сигнал слоя имеет следующий вид: L S S
x(i) = sign[ 2 Z(asUi+as0i)Н(г,s)х, +? (a 0t +a 00)Я(г,s)] .
i=i s=i s=i
Отсюда
S L
x(i) = 2, HQ, s) sign & u i +a 0,) x, + (a „г +a 0 0)]. (10.42)
S=1 (=1 ’
Рис. 10.9. Схема разомкнутой структуры континуального слоя нейронной сети с кусочно-линейными весовыми функциями (s-й канал)
Структуру (10.42) можно рассматривать как слой из S пороговых элементов, весовые коэффициенты которых линейно зависят от г, причем при изменении г выходы нейронов поочередно подключаются ко входу следующего слоя функциями Н(г, s). Структура слоя изображена на рис. 10.9. (Для простоты показан лишь один канал преобразования, соответствующий s-му отрезку изменения параметра г).
