Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
Результатом обучения нейронов первого слоя многослойной нейронной сети с двумя решениями, в частности, является логическая функция, определяющая последовательность деления многомерного пространства признаков. Данная логическая функция иногда не определена не только на некоторых полных наборах аргументов, но и на некоторых отдельных аргументах. Простейшая иллюстрация недоопределенности логической функции подобного рода представлена на рис.13.11 и в табл.13.3. Здесь арабскими цифрами отмечены области исходного пространства признаков, являющихся исходными для формирования некоторого набора аргументов логической фун-
Рис. 13.10. К анализу сходимости алгоритма при увеличении числа гиперплоскостей на этапах обучения и распознавания
Рис. 13.11. Формирование обучающей выборки на выходе нейронов первого слоя
Таблица 13.3
Номер области 1 2 3 4 5 6 7 8
Е -1 1 -1 1 1 1 -1 ¦
У Первый нейрон -1 1 1 -1 -1 1 1 *
Второй нейрон Ф 1 -1 Ф Ф 1 -1 *
Третий нейрон -1 © Ф 1 1 Ф Ф *
кции е(у) Клетки, помеченные звездочками, означают набор переменных, который никогда не появляется на выходе нейронов первого слоя. Клетки, помеченные знаком Ф, означают значения переменных из полного набора, равного 2Hl, которые также отсутствуют на выходе нейронов первого слоя. Процедура последовательного деления, показанная на рис. 13.11, может быть проиллюстрирована деревом и матрицей вида, изображенного на рис. 13.12. Здесь 1-V1 — области, полученные в результате последовательного деления.
Проблема доопределения логической функции е(у), полученной на этапе последовательной настройки нейронов первого слоя, возникает в связи с необходимостью формирования массивов обучающих векторов на выходе нейронов первого слоя для настройки последующих слоев нейронов. Основная задача здесь заключается в доопределении логической функции на
III ш Г
0 I г
1 Ш1У
т о о woo
ЛУШ Y О О
та о о
Рис. 13.12. Логическое дерево и матрица переходов для примера рис.13.11
частично заданных наборах своих аргументов. Доопределение же логической функции на наборе 8 (рис. 13.11, табл. 13.3) может вообще не производиться, так как этот набор никогда не появляется ввиду специфики задачи построения кусочно-линейной разделяющей поверхности. Доопределение при неполных наборах производится следующим образом. В обучающий массив для нейронов второго слоя многослойной нейронной сети, представленных в табл. 13.4, записываются векторы с присутствующими координатами, исходным указанием учителя и полным перебором по отсутствующим значениям переменных.
Таблица 13.4
Номер области V 1" 2' 2" 3' 3" 4' 4" 5' 5" 6' 6" Г 7"
е -1 -1 1 1 -1 -1 1 1 -1 -1 1 1 -1 -1
Первый нейрон -1 -1 1 1 1 1 -1 -1 -1 -1 1 1 1 1
У Второй нейрон -1 1 1 1 -1 -1 -1 1 1 1 1 1 -1 -1
Третий нейрон -1 -1 -1 1 - 1 1 1 1 1 -1 1 -1 1
В табл. 13.4 сформирована логическая функция, по которой производится настройка нейронов слоев, кроме первого.
13.4. Алгоритмы обучения нейронов второго слоя двухслойной нейронной сети
13.4.1. Условие реализуемости логической функции г(у) на одном нейроне
Целью данного параграфа является проверка реализуемости логической функции на одном нейроне втрого слоя системы распознавания образов. Если результат проверки будет положительным, то многослойная нейронная сеть будет двухслойной с одним нейроном во втором слое. Если же результат проверки будет отрицательным, необходимо перейти к синтезу трехслойной нейронной сети, в которой логическая функция реализуется на двух выходных слоях нейронов с некоторым (выбираемым в процессе синтеза сети) числом нейронов первого слоя и одним нейроном второго слоя.
На рис. 13.13 представлена иллюстрация реализуемости логической функции на одном нейроне, когда величина выход-
э(1) g(2) г >
«макс ^мин 9{Я)
---о-0-0-О---< -1- i-X-X-X---
0
-9
Рис.13.13. К определению физической реализуемости логических
Z
функций на одном нейроне: (1) - 2 | cTy(z)|, (2) - (сТЬ)
г-1 1
ного аналогового сигнала д(п) нейрона меньше нуля на всех наборах входных двоичных переменных y(z) (z - номер набора) первого класса и больше нуля на всех входных двоичных
переменных второго класса. Величина Ад= д^1~ 5^„акс называется промежутком [13.5]. Необходимое и достаточное условие реализуемости логической функции на одном нейроне можно записать в следующем виде:
e(z) = sign д(г) j или, иначе, f (13.1)
g(z) e(z) = | g(z) |. J
Суммирование правых и левых частей (13.1) дает условия реализуемости логической функции на одном нейроне в следующей форме:
z Z
2 g(z)e(z) = 2 |g(z)| (13.2)
