Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
Из сравнения (7.32) с выражением для средней функции риска
К=ЩЛ /Е(е) /(x|e) I [xfc=P(x), e]dxde
следует соотношение для преобразования дискретной ошибки, необходимого для равенства а2д и R:
Z(xg)= >|l l(e-x9), е ].
7.5.3. Нейронная сеть с Кр решениями; К классов образов
Из выражения (7.10а) следует выражение для распределения преобразованной соответствующим образом дискретной ошибки нейрона с Кр решениями для образов к-го класса при
VV :
9 9 а,V aN aN
- tb ( а'кР~1‘кР+а° . а1 gW-l>
к aN ’ aN ’ aN
Отсюда.
В случае нейронной сети с произвольной структурой
% = f-! [(fc_fcpK J2Рк -f /fc« dx-
k~lP 1 P S(V(x)>0
Из сравнения a2g и К:
^ = ^1^=1 4fc ^ dx
p S<'cP)(x)>0
следует условие для их совпадения в следующем виде:
V k-fcjV'
7.5.4. Нейронная сеть с Ы*-выходными каналами;
К0 градаций сигнала по каждому классу
В этом случае функция распределения дискретной ошибки для совокупности образов класса (kv ..., kN.):
f\kv ..., V)(x 1»......xN-g> = k J" • V J* f\kv ..., kjx) dx
V-’ "-p’ficpfl
при (xlg,..., xN,g) = (kv ..., kN.) - (klp,..., kN.p).
Применяем к вектору (xlg,... , kN.g) следующее преобразование, необходимое для получения преобразованной дискретной ошибки х'д(п). Умножаем вектор хд на скаляр A (kv ..., kN„ fclp, ..., kN,p) и вычисляем сумму квадратов компонент данного результирующего вектора. Результат будет преобразованной дискретной ошибкой x'g(n). В этом случае для совокупности образов всех классов
_ _ Ко Ко Ко Ко _
м[х\2д+ - +xVZg] = Ё ... 2) Ё ... Zi [(fcj,..., k.)2+
® n es fcj=1 k^=1 fcip=1 fc^=1 p
+ (fcAT“Vp) > ^jv*> ^"lp* » kjV'p) j, — > ^дг.) X
w
«JJ
¦? J /(fc,, ...,V)(X)dX-
S< “>. №,p (x)>0
Сравнение данного выражения с Я дает соотношение для параметров преобразования А в следующем виде
_ * (kp - ^д»| ^ip» - > ^лг*р)
l(fcrfcip)2+... + (fcw...., Vp)2
Это преобразование дискретной ошибки делает равным величины m[x'j29+ ... +x'w,2J и К.
7.5.5. Нейронные сети с N*-выходными каналами; континуум решений нейронных сетей
В данном случае хд =е - Р(х) - вектор размерности N*. Плотность распределения суммы квадратов компонент вектора хд имеет вид:
/*2 (x2g)= J • • • J I • • •, I/ [х1(..., Хд,.!, Р'(*) |е]х
® Е X
I dP'(*)l х/е(е)| |dxw.r.. dx,de.
Здесь
Хдо Р (х д, Pj, . . .,РN„ Ej,. . ., Едг*> %it • • • j Р ( ). Распределение квадрата преобразованной дискретной ошибки
Отсюда первый момент данного распределения
оо оо
0.,, = J [z (xVb,(^«-l[z
N* NTl
х J ... JJ ... J/ [хх.Xjy.j, Р'(*) |е]х
Х/Е(е)| “.. dXjde dx2 . dx2ff
После соответствующей замены переменных
Из сравнения а1д с выражением для R в нейронных сетях с N* выходными каналами и континуумом решений следует уравнение для функций преобразования дискретной ошибки в следующем виде:
г N' 1
Z{ Si[ei..-Pi.(x)]2}= I [P(x), е]. (7.34)
7.6. Нейронная сеть в режимах самообучения и при произвольной квалификации учителя
В случае Кр решений выражение для средней функции риска в режиме самообучения имеет вид:
Кр г
R = Л, J Р [x-bfcP] / (*) dx-
В случае системы с Кр решениями можно показать, что преобразование выходного сигнала у, формирующее сигнал у', первый момент распределения которого равен R, определяется следующим образом:
y' = p[x~b(y)], (7.35)
а в случае с произвольной квалификацией учителя
у' = 1(У.е) Ь + (1-Ъ2) р[х-Ь(у)]. (7.36)
Выражения (7.35) и (7.36) справедливы также и для случая нейронной сети с континуумом решений.
Литература
7.1. Уидроу Б. Распознавание образов и адаптивное управление // Зарубежная радиоэлектроника. - 1965, - №9, с. 87-111.
72. Галушкин А.И., Зак Л.С., Тюхов Б.П. К сравнению критериев оптимизации адаптивных систем распознавания образов. -Киев, «Кибернетика», №6, с.122—130.
7.3. Галушкин А.И. Реализация критериев первичной оптимизации в системах распознавания образов, настраивающихся по замкнутому циклу в режиме обучения. - Труды МИЭМ, вып.23, 1971, с. 191-203.
7.4 Галушкин А.И. Синтез многослойных систем распознавания образов. -М., Энергия, 1974.
