Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
^1=0; »=1 Эх,- Эук
(8.21)
'^1. •F*1 п 3Dj. ..эо/
Эуг ЭЙ* Эх: dxN
Эуг ЭУ/v 9xj dxN
После дифференцирования (8.21) получаем:
Д Э2х, 3D, v V Э20, Эх,. Эх,
2, —5-------------------------------*- + X X -i-2- — = 0;
i= 1 dykdyldxi i=lj'=l Эх, Эх. ду1дук v Э2х- ЭО„ й ^ Э2Ом Эх, Эх.
2, -s---а-+ 2 X -------------1 — = 0;
i'=i дукду[ Эх,. t=u=i Эх,.Эх;. Эу, Эук
Умножая обе части уравнений на уку1 и суммируя по к и
I, получаем
N N N 32
i=l oxik=ll=i дукд.У1.
N N 22r> N N ^ a -22 ?Z j Эх<
i=lj-i (ЦЭх^-1 !_1 Ъухдук
ViVk^v
N
t«i ox. fc=n=i ayfc * i^i j=i 9xt. 9^.fc=i i=i dj/j 1 fc dVi dyk
Иначе эту систему уравнений можно переписать:
N N
Э2х,
- К d2D., v v Эх, Эх,
N N -Л2
iz Л*
fc 11-1 ЭуьЭу
¦*- УкУ1 k^Vi
N N
ад
fc_11 ldykdyt С учетом того, что вектор
a =
есть корень системы (8.17),
Э Dj
dXj dxN
^E..d3L
3xj 3xw
-i
С .
«1 ’ F,(0)'
aN iyo)
w_1=
aDj эг^
3xj Эхд,
... 3Dn
Эх,
Эх.
x =
; Ук=Щх);
c=
С,
CN
? ? ? у Эх. Эх,.
t=i j=i дх{дх. fc=i 1=1 Эу, дук
d2D
VkVi
X 1 2 1
!=i j=i Эх дх. fc= 1 (=i Эу; Эук
УкУ;
<х= х - W^D + -jL WAC.
Отсюда следует общее выражение для алгоритма поиска экстремума функции многих переменных при наличии матрицы производных второго порядка
х(п+1) = я(«) “ W-J[x(nj] D [x(n)] + W'1 [x(nj] С [x(nj]. (8.22)
8.7.2. Одномерный случай
В этом случае D(x)=0; F(y)=D'1(x)', xsF[D(x)], (xe[a,b]);
ysD[F(y)]. Если a - корень уравнения, то а = F(0). Разложим F(y) в ряд
F( 0) - F(y) = fct(-l )к^Ук + Rr+1
или, иначе,
а= х + t(~l)k —[D(x)? + Rr+1.
Из исходных уравнений дифференцированием получаем:
Г [D(x}]D'(x) = 1;
F" [D(x)]d2(x) + Г \D(x)]D"(x) = 0;
Г” [D(x)]D 3(х) + 3F" [D(x)]D'(x)D"(x) + Г [D(x)]D'"(x) = 0;
В случае г=2 получаем окончательно
D'(x) d'\x)
x(n+l) = x(n)---L»' + D'"(xn), (8.23)
ZT(xn) 2D 3(xn)
где D"'(xn)=K*(n).
Литература
8.1. Цьшкин Я.З. Адаптация, обучение и самообучение в автомата' ческих системах. //«Автоматика и телемеханика». -1966, -№ 1,- с. 23 - 62.
8.2. Растригин JI.A. Случайный поиск в задачах оптимизации многопараметрических систем. - Рига, Зинатне, 1965.
8.3. Цыпкин Я.З. Применение метода стохастической аппроксимации к оценке неизвестной плотности распределения по наблюдениям.// «Автоматика и телемеханика».-1966, -№ 3, -с. 94 - 96.
8.4. Девятериков И.П., Пропой А.И., Цыпкин Я.З. О рекуррентных алгоритмах обучения распознаванию образов. //«Автоматика и телемеханика». -1967. -№ 1с. 122 - 132.
8.5. Цыпкин Я.З., Кельманс Г.К. Рекуррентные алгоритмы самообучения. //«Автоматика и телемеханика». -1967, -№5, -с.78 - 87.
8.6. Цыпкин Я.З. Адаптация и обучение в автоматических системах. -М., Наука, 1968.
8.7. Цыпкин Я.З. Оптимальные гибридные алгоритмы адаптации и обучения.//«Автоматика и телемеханика». -1968. -№9, -с. 96.
8.8. Цыпкин Я.З. Основы теории обучающихся сестем. -М., Наука, 1970, 251 с.
8.9. Цыпкин Я.З. Обобщенные алгоритмы обучения. //«Автоматика и телемеханика». -1970, -№1, с .97 - 104.
8.10. Цыпкин Я.З. Обучающиеся автоматические системы. //Автоматика и телемеханика». - 1970, -№4, с. 55 - 71.
8.11. Забрейко П.П., Красносельский М.А., Цыпкин Я.З. Об оптимальных и субоптимальных алгоритмах обучения. //«Автоматика и телемеханика». -1970,. -№ 10, с. 91 - 98.
8.12. Галушкин А.И. Анализ одного итерационного метода поиска экстремума, //«Автоматика и вычислительная техника». АН Латв. ССР. -1970, -№ 2, с. 38 - 40.
8.13. Цыпкин Я.З. Сглаженные рандомизированные функционалы и алгоритмы в теории адаптации и обучения. //Автоматика и телемеханика». -1971, -№ 8, с. 29 - 50.
8.14. Галушкин А.И., Тюхов Б.П., Чигринов В.Г. О сходимости одного метода случайного поиска при отыскании локальных и глобальных экстремумов многоэкстремальной функции. // Труды МИЭМ. -1971. - Вып.23. - С. 205 - 209.
8.15. Галушкин А.И., Шмид А.В. Итерационные методы поиска эк-стемума функций многих переменных при ограничениях типа равенств. //«Автоматика и вычислительная техника». АН Латв. ССР. -1971. -№ 4. С. 88 - 91.
8.16. Растригин Л.А. Случайный поиск с линейной тактикой. -Рига, Зинатне, 1971.
8.17. Цыпкин Я.З. Алгоритмы динамической адаптации. //«Автоматика и телемеханика». -1972, -№1, с. 68 - 76.
8.18. Цыпкин Я.З. Алгоритмы обучения распознаванию в нестационарных условиях. //«Проблемы передачи информации». -1972. -Вып. 3. - С. 94 - 102.
