Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
F(g) = sign д\ F(g)=
1 при д > Да;
0 при ~Да<дг<Да; -1 при д<-Да;
l . g > «;
F(g)=' -Да<д<Да;
ч -1 , д<~Ла.
7.1.3. Анализ нейрона с Кр решениями
Совместный закон распределения вероятностей входного сигнала системы распознавания К классов образов в режиме обучения имеет вид:
f(x, е) =
Pj/jM при е=1, рк/к(х) при е=К
В данном случае
y(n)=fcp при afcp_l fcp < g(n) <afcpfcp+1
(<wi=o°; aoi=~°°)-
Для совокупности образов К-го класса
/ьЮ= тУ • ¦ • JФх..........xN-v — - 5 *iT-)d®N-r • • «Ч
w ~oo ^ t=l N
Распределение аналоговой ошибки в данном случае будет иметь следующий вид:
w=?p^x,= s^j:j,
7_1_ W-1
, / k+an-x„ v а,Л , ,
4 v*4> • • ¦ > xn-i> ^ ~ ^ xi aN) dxN_v ¦ ¦ dxy
Распределение дискретного выходного сигнала нейрона рассматриваемого типа для совокупности образов fc-ro класса может быть получено в следующем виде:
f (гл= ф (%'У-^У ^ -
Jpy) ^k\ aN ’ aN’ ¦ ¦ ¦ > aN )
- / afcD-l, fcp + a0 ai aN-l\ , .
" Фк У P ?------. • • • г-оГ ' при y= M710a)
, /afcp-l' fcp + S , а1_ аЛГ-1\ v a., ’ a’ - ‘ 1 ’ aj
afcp-14cp+a0 Oj_
=iX' S
Отсюда распределение дискретной ошибки
К I
, - , V Г.*. tak-k"’ к-кГ+1 a0 а1 aJV-n
Рь 1ф* V----------ти-----; V • • • » -а;) -
- ( ak-k"-v к-кГ+ а0 а1 аЛГ-1\1
-фД—-------------^.....-^Лприх^Ь.
Выражения для моментов г-го порядка распределений аналоговой и дискретной ошибок могут быть представлены в виде:
a.
V ,w,4. V fuh-k"'k-k~+1 ' u0 “l ujV-l\
------5;—¦•-,¦¦¦¦.—) -
_ - / ак-к"-У к-кГ+ a0 ^1_ aJV-l \1
fc ' “n ’ a,’"" aJJ'
Выражение для r-го момента распределения аналоговой ошибки имеет следующий вид:
N-1
a.
- 2х,— ) dx dx„ .. dx..
«=1 1 aN' a JV-l 1
После замены переменных x1=y1; ... xN1=yN l,
7 _i_ JV-l
fc+an~x„ v a,
N
к 7 ^ /• N
Ctra=fc?i Р J — J [ ? J/ft + (r+a0)]r/fc(y1, у N)dyN... dy{,
N-l
pJ :!• fm?0Cr(a0+fcH-ir- (Sa. yt )r'mfk(y)dy.
7.1.4. Анализ системы распознавания образов
с нелинейной разделяющей поверхностью
В [7.4] было указано, что система распознавания образов с нелинейной разделяющей поверхностью может быть представлена эквивалентной системой, состоящей из безынерционного слоя нелинейных преобразований и нейрона. Если слой нелинейных преобразований формирует из компонент вектора
(xv ..., xN) компоненты вектора (хр ... ,xN, {z,.^},... ,{2^.ir}],
где г,, ..., г =1,.... N иг,- , = х. ... х,, то можно показать,
1 г »х» * * * 'V *1 г
что плотность распределения выходного сигнала данного слоя может быть представлена через плотность распределения /(х) входного сигнала следующим образом:
f'(x')=f'(x, {zhi2},.. • К. ¦v»=
' /(x) для всех i, к, (fc= 1,.
при которых z, . = X. ,.. ' >Xik
»1* • ¦ • »*/c
< 0 для всех i, к,
при которых zfi ifc Ф х{ ,.. ’ Х'к’
\
Выражение для второго момента распределения дискретной ошибки рассматриваемой нелинейной системы имеет следующий вид:
a2g= 4[Ф'2Р2+РГФ>1]>
где
N*
(• оо Л IV*
Ф'г J ¦ ¦ ¦ J /,'(*') dx' и 5'(x')=-a0 + 2) afc/.
S'(x')< 0 * 1
N
Необходимо учесть, что выражение 5(х)=-о0 + X агх(= О
определяет линейную разделяющую поверхность в исходном пространстве признаков. Определим, как изменяется вид разделяющей поверхности в исходном пространстве признаков при увеличении порядка г нелинейного преобразования. В случае преобразования второго порядка:
Отсюда следует, что в случае г—2 эквивалентная разделяющая поверхность в исходном пространстве признаков будет поверхностью второго порядка с коэффициентами, однозначно определяемыми по коэффициентам выходного нейрона с входным слоем нелинейных преобразований. В случае преобразования r-го порядка:
Этим доказывается эквивалентность (по критерию минимума средней функции риска) представления системы распознавания образов с нелинейной разделяющей поверхностью в виде блока нелинейных преобразований и нейрона.
