Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
N N
J J ¦ - - J G(x, у) д^х, у) dxdy=j ... I g1[xP(x)] dx=0, (6.16)
УХ X
где
g1(x,y)= р^х) Цу) - p2/2(x)Z2(y),
приводит к уравнению для оптимальной модели нейронной сети следующего вида:
d 12 (у)
d 1Лу)
(1+%>хЛ(х) --------
dy
+(1-Я)р2 /2(х)
у=Р(х) dy
=0. (6.17) У=Р(х)
Множитель Лангранжа X определяется подстановкой (6.17) в (6.16).
Ограничение в виде заданного значения составляющей средней функции риска имеет вид:
N
JO G(x, у) [ Pl /j(x)*j(у) ] dxdy= а.
у
Обозначая
(6.18)
У X
g2(x,y, Х)= д2(х,у) + XPl Д(х) Z^y) = =(1+A) Pl/X(x) ij(y) + p2/2(x)Z2(y),
получаем выражение для оптимальной модели нейронн в следующем виде:
или, иначе,
(т)Р1Д(х)
d h (У) dy
дд2(х,у,Х) | у=р(х) ЭРЙ
dl2{y)
+ Ра/2(х)—---------
у=Р(х) “2/
у=Р(х)
Множитель X определяется подстановкой (6.14) в (6.1 Нейронная сеть типа 6. Система распознавания К образов с континуумом решений имеет оптимальную следующего вида в случае критерия минимума средней кции риска:
У л dlk(V)
у=Р(х)
= 0,
где Р(х)=г/ - оптимальная модель нейронной сети в случае.
Нейронная сеть типа 7. Это система распознава классов образов с двумя решениями. В случае критерия мума средней функции риска вместо матрицы коэфф тов потерь, возникающих при отнесении о г-ro класса к му, которая для системы типа 1 имеет
L =
11»
12
‘21* 22
необходимо ввести в рассмотрение матрицу
L =
11>
21>
к2
“kV
- ^KV
Матрица L есть матрица коэффициентов потерь, воз ющих при отнесении образов, относящихся к к-му
. __1 _ К), к областям многомерного пространства признаков соответствующим первому и второму решению. Выражение для условной функции риска имеет следующий вид: N N
rk = zfcJ • • • J/fcW dx+lfcJ • • • J/fcW dx-
S(x) < 0 S(x) > 0
Средняя функция риска получается усреднением условной функции риска по всем классам:
N N
R = ^ Pkrk = ? Pkhi / • ¦ • / /fe(x)dx+ %рк1к2 / . .. J /fc(x)dx.
fe_1 к 1 S(x)<0 S(x)>0
Учитывая, что
N N N
|... J fk(x)dx = J...} /fc(x)dx+ J.. J /fc(x)dx ,
S(x)>0 S(x)<0
получаем окончательное выражение для средней функции риска
К —jf к
R = 2r pklk2+ J • • J [2 pk(lkl~ Zfc2^] /fc(x)dx •
fe=1 S(x)<0 fc=1
Легко показать, что минимум R в данном случае обеспе-
чивается при условии
к
S(x) = 2 pk(lkl~ lk2)ffc(x) • k=l
Это есть уравнение для оптимальной разделяющей поверхности, определяющее оптимальную модель нейронной сети.
Нейронная сеть типа 8. При оптимизации нейронной сети с континуумом классов образов и двумя решениями по критерию минимума средней функции риска необходимо ввести 8 рассмотрение матрицу (вектор-строку) i«=[i1(e), Z2(e)] функций потерь, возникающих при отнесении образов, объективно подчиняющихся закону /'(х/е), к областям многомерного пространства признаков, соответствующих 1-му и 2-му реяниям. Условная функция риска есть функция риска принятия решения о принадлежности образов на входе нейрон-
ной сети к совокупности образов с распределением / '(х,/ пичные зависимости для функций потерь ?г(е) и Z2(e) ставлены на рис. 6.11. В этом случае выражение для < ной функции риска имеет следующий вид:
N 'N. r(e) = Z^e) J ... f / '(x/e) dx + 12(e)J ... f / '(x/e) d
S(x) < 0 S(x) > о
\ I '
с I
«и |
| hi
l_t
«I-
б
Рис. 6.11. Функции потерь для континуума классов и двух ре а - два класса; б - континуум клай
Здесь S(x)=0 ~ уравнение разделяющей поверх* многомерном пространстве признаков.
Средняя функция риска получается усреднением ной функции риска по всем значениям е следующим i
К = J г(е) /?(е) de = J /е(е) х
“ею —во
N N
i/e) J - - J / '(x/e) dx + г 2(e)J... J / '(x/e) dx
S(x) < 0 S(x) > о
