Научная литература
booksshare.net -> Добавить материал -> Биология -> Галушкин А.И. -> "Теория нейронных сетей" -> 14

Теория нейронных сетей - Галушкин А.И.

Галушкин А.И. Теория нейронных сетей — М.: ИПРЖР, 2000. — 416 c.
ISBN 5-93108-05-8
Скачать (прямая ссылка): teoriyaneyronnih2000.pdf
Предыдущая << 1 .. 8 9 10 11 12 13 < 14 > 15 16 17 18 19 20 .. 131 >> Следующая

рые из которых должны быть найдены в процессе настрой ки по замкнутому циклу. Именно этот факт делает необхо димым введение элементов случайности в процедуру поис ка, связанных с выбором множества случайных начальны условий для некоторой градиентной процедуры. Основньг вопросом исследования при этом является вероятность на хождения некоторого числа локальных экстремумов функ ционала вторичной оптимизации в зависимости от числа вы" росов случайных начальных условий градиентной процеду ры поиска локального экстремума. Одна из задач, котору нужно решать на этапе построения замкнутых систем, зак лючается в том, чтобы оценить вектор градиентов функци онала вторичной оптимизации в нейронных сетях. Это мож но сделать двумя путями:
1) введением поисковых колебаний и детектированием;
2) нахождением оценки вектора градиентов в виде выра жения через сигналы в нейронных сетях (выходные промежуточные).
В первом случае имеем дело с поисковой адаптивной си стемой, во втором - с аналитической. Естественно, пред почтительнее построение нейронных сетей в виде аналити ческих систем, настраивающихся по замкнутому циклу, та как введение поисковых колебаний вводит дополнительн? шумы в систему. Однако построение замкнутых нейроню сетей аналитическими средствами не всегда возможно. Огр ничения аналитического подхода показаны в данной кни при рассмотрении этапа построения замкнутых нейроннь сетей. Основное внимание на этапе построения замкнуть нейронных сетей уделяется реализации заданных критер ев первичной оптимизации в сетях различной структуры.
Важным является вопрос построения алгоритмов настрой нейронных сетей в режимах самообучения и произвольной кв лификации учителя. Методология построения замкнутых си тем здесь та же, что и в режиме обучения. В этом заключав ся принцип единого подхода к обучению и самообучению, л жащий в основе методики синтеза многослойных нейронн сетей, излагаемой в [В-6] и данной книге.
В [В—6] представлен анализ известных эвристических ритмов настройки нейронных сетей с позиций единого подхо к синтезу алгоритмов адаптации в нейронных сетях. Отдель
яя
изложен материал, посвященный алгоритмам адаптации в континуальных нейронных сетях и выбору из них алгоритмов адаптации, адекватных физической реализуемости.
Рассматриваются особенности выбора начальных условий в алгоритмах адаптации нейронных сетей.
10.6. Исследование алгоритмов адаптации в нейронных сетях
Исследование замкнутых нейронных сетей является заключительным для многослойных нейронных сетей с фиксированной структурой, настраивающихся по замкнутому циклу. На данном этапе синтеза решается ряд вопросов, связанных с оценкой качества работы разомкнутых многослойных нейронных сетей. Первым таким вопросом является выбор начальных условий для настройки коэффициентов многослойных сетей. Выше было отмечено свойство многоэкстремальности функционала вторичной оптимизации. Ввиду этого рассматриваются два способа выбора начальных условий: случайный, когда нужно найти все локальные и глобальные экстремумы, и детерминированный, когда многослойная нейронная сеть вводится в область глобального экстремума функционала вторичной оптимизации. Вторым вопросом является выбор класса типовых входных сигналов многослойных нейронных сетей, достаточно полного для того, чтобы при данных сигналах можно было в дальнейшем исследовать и сравнивать их качество работы. Для систем автоматического управления подобная задача решена, в частности, выбором в качестве типовых сигналов класса полиномиальных сигналов, где сложность входного сигнала определяется порядком полинома. В случае многослойных нейронных сетей ввиду специфики данных систем сложность входного сигнала определяется, в частности, модальностью условных распределений входных сигналов для задач распознавания образов. Третьим вопросом является выбор оптимальных параметров контура настройки многослойных нейронных сетей, в частности параметрической матрицы системы поиска экстремума функционала вторичной оптимизации. Особое внимание здесь уделяется вопросу выбора оптимальных параметров контура настройки нейронных сетей по оценке текущего значения функционала первичной оптимизации. В [В-1, В-6] приводятся результаты исследова-
ния большого числа многослойных нейронных сетей, полу ченные моделированием на ЭВМ.
В целом по данному этапу синтеза многослойных нейрон ных сетей необходимо отметить следующее. Рассмотрени класса неформальных задач, в частности задач распознавали, образов при неизвестных, достаточно сложных функциях ус ловных плотностей распределения, создает определенны трудности не только при построении самих систем, способ ных решать подобные задачи, но и при попытке теоретичес ки оценить качество решения данных задач. Поэтому в основ ном приходится прибегать к методам, связанным со стати тическим моделированием. Приведены результаты статиста ческого моделирования для отдельных нейронов при много модальном распределении входных сигналов, исследование ди намики настройки трехслойных нейронных сетей с последова тельными связями, исследование динамики настройки много слойных нейронных сетей при нестационарных входных си налах, а также в режиме самообучения и в режиме обуче ния с учителем, имеющим конечную квалификацию. <
Предыдущая << 1 .. 8 9 10 11 12 13 < 14 > 15 16 17 18 19 20 .. 131 >> Следующая

Реклама

c1c0fc952cf0704ad12d6af2ad3bf47e03017fed

Есть, чем поделиться? Отправьте
материал
нам
Авторские права © 2009 BooksShare.
Все права защищены.
Rambler's Top100

c1c0fc952cf0704ad12d6af2ad3bf47e03017fed