Научная литература
booksshare.net -> Добавить материал -> Биология -> Галушкин А.И. -> "Теория нейронных сетей" -> 62

Теория нейронных сетей - Галушкин А.И.

Галушкин А.И. Теория нейронных сетей — М.: ИПРЖР, 2000. — 416 c.
ISBN 5-93108-05-8
Скачать (прямая ссылка): teoriyaneyronnih2000.pdf
Предыдущая << 1 .. 56 57 58 59 60 61 < 62 > 63 64 65 66 67 68 .. 131 >> Следующая

В данном случае рассматриваемая многослойная нейронная сеть имеет по Н. нейронов в каждом j-м (j=l,...,W) слое. Выражение для выходного сигнала подобной нейронной сети имеет вид (2.2). Предварительно найдем значения частных производных хк(п) и д(п) по коэффициентам ah +l w_.:
^w-i Hw-j+3 j+2
2 ... Z
dahw-j+l,hw-j V-i 1 К-рз 1 11=0
ж’п <>); <9-3»
V, Hw-j< 3 j+2
Ьд(п) * ... Z
9ahw_.+1,hw_. V-i И
xfi, .<>>¦ ,9'4)
v=l , W-v w 1
Qhw-x,
V
В табл. 9.4 и 9.5 приведены выражения для оценок градиентов функционалов вторичной оптимизации соответственно для произвольной F и F=sign(g).
Таблица 9.4
l“J m Hw-1 Hw-j+a i+2
-sign[x(n)] X ... X ПаЛ Ли,.ч.,х
"w i 1 Tl=Q
i+1 JEir W-v , чптя
.ft dF[W-v(«)] W-;
v-l dg.w'v x^in>
^V-v
«2а Hw-i ^Vh+з )+2
-2X ... X П ahw_4,xo(n)x
"w-l-1 ^W-,+3'1
i+l jn, W-v . ЧЛ mn
xh ‘"'I
¦4:.
l°J m Hw-i ^w-i*3 i+2
-signlisW] ...
% HW-I j+2
~2 X ... X П x„(n) X
V-rl n*0
xfi ^»?..<«)]'li;(n)
v-o dg.w-v J
*hW-v
Таблица 9.5
l«J J?W-1 7-1 mn
---sign [лса(п)1 X ahw,kw-i sign [П X ол^.„,|Лиг-чхл^ (и)]
"w I-1 n=2 V-rC1
a20 j-l ^w-л n
-2 X ahw.hw,.,xa(n)sign [П X ahlv ,,hw.n Xh^"J(n)]
(V-,=1 1=2 hw-n=1
l%l j-l ww-„
-sign[x (n)] sign [П X ftw^xhlv^n)]
n=i V„=1
2 g j-l HW-IJ
'2i((") sign [П X ah^^.hw-^O")]
Л-! "iv-n-1
В этом случае F(g)=sign(g), sign х^.(п)= ^’.(п) для всех j*W, что значительно упрощает запись выражений для градиентов.
9.5. Построение нейронных сетей, настраивающихся по замкнутому циклу при ограничениях на переменные
Рассмотрим ограничения на настраиваемые коэффициенты многослойных нейронных сетей типа равенств и неравенств, представленные в гл.8. Для многослойных нейронных сетей характерны в свою очередь ограничения на совокупность коэффициентов всех нейронных сетей, ограничения на совокупности коэффициентов каждого слоя в отдельности, ограничения на совокупности каждого нейрона нейронной сети в отдельности.
Соответственно данным типам ограничений для двухслойной нейронной сети имеем:
н, N
X (а,.+Х а,,) = а; (9.5а)
j=0 1 i=0 4
я, N Н,
X X а,.,. = а,; X а. = а2; (9.56)
N
j-0 t=0 ,J Я,
Ха. -а -О; Ха,-а=0; j=0,..., Н
1=0 1 1 ]=0 1
(9.5в)
Ограничения типа неравенств на настраиваемые коэффициенты многослойных нейронных сетей в основном имеют вид, представленный в п. 8.5.
Нейронная сеть в виде нейрона. В случае критерия минимума | а1о| при наличии ограничения типа равенств (9.5а) система соотношений (9.1) преобразуется следующим образом:
а(п+1) а(п) + К* - sign[xa(n)]mn x(n)m" + lX(n)
N
Я(п+1) А,(п) X a,.(n) - a
i=о
Для критерия минимума | а1д| рекуррентное соотношение, являющееся основой для построения замкнутой нейронной сети, в случае ограничений типа неравенств (см.гл.8) на настраиваемые коэффициенты будет иметь следующий вид:
a(n+l) = a(n) + Kla(n)-sign[xa(n)] sign x(n) +
a(n)-a
^JV+l
^V~^2(N+1)
+
макс
a....- a(n)
МИН
+^(n)
A.(n+1) = max jo,X(n) +К*л(п) s-sign[xin)] sign x(n)+
^VV+1
^JV~^2(W+1)
+
+4x(n)
а(П)"амакс ами„ " аИ)
Двухслойная нейронная сеть. Рассмотрим случай ограничений на коэффициенты нейрона многослойной нейронной сети. Ниже представлены рекуррентные соотношения, являющиеся основой для построения замкнутых нейронных сетей в данном случае.
Ограничения типа равенств а) - второй слой, б) - первый слой:
--------------------- тп
а) а'(п+1) = а'(п)+К"а.а. (гг)[а;9(п)^?^=9(п) хк(п) + 1Х/(п)] +
Предыдущая << 1 .. 56 57 58 59 60 61 < 62 > 63 64 65 66 67 68 .. 131 >> Следующая

Реклама

c1c0fc952cf0704ad12d6af2ad3bf47e03017fed

Есть, чем поделиться? Отправьте
материал
нам
Авторские права © 2009 BooksShare.
Все права защищены.
Rambler's Top100

c1c0fc952cf0704ad12d6af2ad3bf47e03017fed