Научная литература
booksshare.net -> Добавить материал -> Биология -> Галушкин А.И. -> "Теория нейронных сетей" -> 78

Теория нейронных сетей - Галушкин А.И.

Галушкин А.И. Теория нейронных сетей — М.: ИПРЖР, 2000. — 416 c.
ISBN 5-93108-05-8
Скачать (прямая ссылка): teoriyaneyronnih2000.pdf
Предыдущая << 1 .. 72 73 74 75 76 77 < 78 > 79 80 81 82 83 84 .. 131 >> Следующая

На рис. 11.6 представлен полный класс типовых входных сигналов многослойной нейронной сети в режиме самообуче-
О О О ООО оооо
X О О ООО оооо
X ООО оо оо
X оо оо
X
Г =1 г =4 г =9 г =16
Рис. 11.6. Условное представление класса типовых входных сигналов нейронной сети в режиме самообучения по степени сложности
ния, иллюстрируемый линиями равных значений /Х(х) на физически реализуемом пространстве признаков (изображение в двумерном пространстве X является условным). Здесь г - сложность типового входного сигнала многослойной нейронной сети. При исследовании динамики нейронной сети величина г типового входного сигнала должна достигать максимальной сложности, на которую в принципе проектировалась многослойная нейронная сеть. Дисперсия для каждой моды /Х(х) должна выбираться так, чтобы моды были достаточно ярко выраженными. В случае обучения многослойной
о@о @о@ о® о
О0 00
0О ©о
о© 0©
©о ©о
X
г=2 г=4 г=9 г=16
Рис. 11.7. Условное представление двух классов входных сигналов нейронной сети в режиме обучения по степени сложности
нейронной сети распознаванию двух классов образов на рис.11.7 представлены линии равных значений Д(х) и /2(х) для типовых входных сигналов (fx - светлые, /2 заштрихованные кружки).
Необходимо отметить, что для каждой конкретной задачи, решаемой нейронной сетью, типовые входные сигналы выбираются своим образом.
Литература
11.1. Розенблатт Ф. Принципы нейродинамики. - М., Мир, 1964.
11.2. Галушкин А.И. Синтез многослойных систем распознавания образов. - М., Энергия, 1974.
12.1 .Постановка задачи синтеза контура настройки многослойных нейронных сетей по замкнутому циклу
Настоящая глава является заключительным этапом синтеза многослойных нейронных сетей с фиксированной структурой, настраивающихся по замкнутому циклу. При этом заданными являются структура разомкнутой нейронной сети, характеристики сигнала в общем виде, алгоритм настройки коэффициентов многослойной нейронной сети, удовлетворяющий некоторому критерию первичной оптимизации. Для оценки качества работы замкнутых многослойных нейронных сетей нужно решить ряд задач.
Первой является задача выбора начальных условий для настройки коэффициентов многослойной нейронной сети. Ввиду многоэкстремальности функционала вторичной оптимизации нейронной сети рассматриваются два способа выбора начальных условий: случайный выбор с усреднением результатов по числу случайных выбросов, когда нужно найти все локальные и глобальный экстремумы, и детерминированный выбор, когда многослойная нейронная сеть вводится в область глобального экстремума функционала вторичной оптимизации путем определенного задания кусочно-линейной разделяющей поверхности в начальный момент времени.
Второй является задача выбора класса типовых входных сигналов многослойных нейронных сетей для оценки качества их работы в переходном и установившемся режимах аналогично тому, как это делается в системах автоматического управления. Сложность входного сигнала будет определяться, в частности, модальностью условного распределения /’(х/е).
Третьей является задача выбора параметрической матрицы К* в алгоритме поиска экстремума функционала вторичной оптимизации. Решение данной задачи возможно аналитическим методом и путем использования методов статистического моделирования. Общая методика аналитического исследования замкнутых нейронный сетей состоит из следующих этапов:
1) определение плотности распределения вероятностей для оценки вектора градиента функционала вторичной оптимизации;
2) вывод стохастического дифференциального уравнения для изменения в процессе настройки плотности распределения настраиваемых коэффициентов нейронной сети;
3) решение данного уравнения;
4) нахождение параметров распределения функционала первичной оптимизации интегрированием по пространству признаков и по пространству состояний нейронной сети как системы со случайным входным сигналом и случайными параметрами.
В результате данного исследования можно решить задачу синтеза контура настройки нейронной сети, исходя из условия обеспечения заданного качества по значению функционала первичной оптимизации. Необходимо отметить, что решение третьей задачи аналитическим методом является трудным с математической точки зрения. Поэтому методика аналитического исследования замкнутых нейронных сетей иллюстрируется в книге частными примерами. Основным остается метод статистических испытаний, при этом выбор оптимальных параметров контура настройки нейронной сети производится по оценке текущего значения оценки функционала вторичной оптимизации.
12.2. Исследование нейрона при многомодальном распределении входного сигнала
12.2.1.Одномерный случай; поисковый алгоритм настройки
Моделировался нейрон с двумя решениями и минимизацией а^ Структурная схема моделируемой системы представлена на рис. 12.1 Исследовалась возможность построения замкнутых систем с поисковой процедурой адаптации ввиду невозможности аналитической оценки величины градиента a2g в данной системе. Совокупности образов первого и второго класса подчинены многомодальным распределениям. В этом случае имеем дело со структурной недостаточностью, когда сложность структуры системы меньше, чем сложность решаемой задачи, и потенциальное качество распознавания в принципе не достигается. Исследование подобной системы позволяет выяснить возможность обучения нейронов первого слоя многослойной нейронной сети при введении элементов слу-
Предыдущая << 1 .. 72 73 74 75 76 77 < 78 > 79 80 81 82 83 84 .. 131 >> Следующая

Реклама

c1c0fc952cf0704ad12d6af2ad3bf47e03017fed

Есть, чем поделиться? Отправьте
материал
нам
Авторские права © 2009 BooksShare.
Все права защищены.
Rambler's Top100

c1c0fc952cf0704ad12d6af2ad3bf47e03017fed