Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
мер, параметрический критичный отказ первого нейрона первого слоя. Положение гиперплоскостей, соответствующее этому случаю, показано на рис.16.3, а, б, в.
В результате изменения весовых коэффициентов отказавшего нейрона вершина гиперкуба 110 оказалась в слойной сети без отказа (рис. 16.1). другом отсеке - с номером
100 (была в отсеке с номером 000), и это привело к ошибке на выходе нейронной сети: на рис.16.3в не все крестики и кружочки лежат в разных отсеках. На рис.16.4 показан полный граф состояний, соответствующий данному отказу. Штриховой линией выделены однозначные ветви ошибочного пути, т.е. ветви, не совпадающие с ветвями безошибочных путей.
Каждому значению на входе нейронной сети соответствует один путь в графе состояний, следовательно, «перемеще-
Рис. 16.3. Гиперплоскости, реализу емые трехслойной сетью с отказом
ООО 100 010 001
00 10 11
О 1
Рис. 16.2. Граф состояний трех-
ООО 100 010 001
00 10 11 О 1
Рис. 16.4. Граф состояний трехслойной сети с отказом (рис. 16.3).
ние» вершины гиперкуба данный отсек соответствуе преобразованию пути, соот ветствующему данной верши не, в некоторый другой, оши бочный. Получившийся оши бочный путь имеет ту же вер шину, но все или часть ос тальных узлов стали другими На рис. 16.5, а, б, в показан дру
гои пример параметрическс го отказа того же нейрона. В результате вершины единич ного гиперкуба 100 и 110 оказались в других отсеках с номерами 000 и 100, соответственно. В графе состояний, показан ном на рис. 16.6, это соответствует появлению двух ошибоч ных путей.
Задача поиска отказавшего нейрона по графу состояний заключается в поиске преобразования одного или нескольких ошибочных путей в безошибочные, при котором не до-
бавлялись бы новые ошибочные пути. Такое преобразование заключается в переходе какой-то ветви ошибочного пути в другую, которая ведет к требуемому корню. Вид этого преобразования (номера позиций в узлах графа состояний, сменивших свое значение) должен указать номер отказавшего нейрона. В примере, представленном графом состояний на рис. 16.4, единственный ошибочный путь
110 100->00-> 1 (16.1)
должен быть преобразован в другой путь:
110->000 -» 10->0. (16.2)
Сравнивая пути (16.1) и (16.2), видим, что некоторые позиции, начиная с первой, узла первого уровня поменяли свое значение. Если взять первую несовпавшую позицию, то можно сделать предположение об отказе первого нейрона первого слоя. В данном примере мы сделали предположение об отказе, так как при этом преобразовывалась однозначная ошибочная ветвь (110 —> 100), которая в получившемся ошибочном пути единственная. Правомерность такого предположения можно показать, доказав справедливость следующего утверждения.
Утверждение 2. При поиске отказа нейрона в нейронной сети с помощью графа состояний преобразовывать можно лишь однозначные ветви ошибочных путей. Попытаемся доказать это. Всем вершинам графа состояний, соответствующего нейронной сети без отказа, безошибочно и однозначно поставлены в соответствие значения логической функции (корни графа состояний). При возникновении отказа в нейронной сети какая-то из ветвей изменяется — появляется ошибочный путь. Каждый ошибочный путь соответствует одной ошибке на выходе нейронной сети. Искомое преобразование пути есть преобразование, обратное отказу, т.е. такое преобразование, которое устраняет отказ, не добавляя новых. Допустим, что мы преобразуем неодназначную ветвь ошибочного пути. Это означает, что у всех остальных путей, имеющих данный узел, появится дру-
Рис. 16.6. Граф состояний трехслойной сети с отказом (рис. 16.5).
гой корень, а поскольку по предположению они были безоши бочные, то все они преобразуются в ошибочные. Это противо речит допустимости преобразования. Утверждение доказано.
Для другого отказа в графе состояний на рис.16.6 уже дв ошибочных пути с вершинами 100 и 110. Первый путь имее единственную однозначную ветвь на нулевом уровне. Рассмот рим все возможные преобразования этой ветви в ветви соот ветствующих участков безошибочных путей: ( —»100 —> 00 —> 1 и (—> 010 —> 11 —> 1) . В результате преобразования имеют вид1
100 ->(0->1) 0000 -» 1, (16.3)
100 ->0(0 ->1)0->11-»1, (16.4)
где два значения в скобках означают смену значений в данной позиции при преобразовании. Из (16.3) делаем предположение, что отказал первый нейрон первого слоя, а из (16.4) -второй нейрон первого слоя. Для ветви нулевого уровня второго ошибочного пути аналогично запишем
110 —» (1 ->0) 00 10 -> О, (16.5)
т.е. подозревается первый нейрон первого слоя. Второй путь однозначен также на первом уровне, следовательно, возможно такое преобразование:
110 —» 100-» (0->1) 0-> 0. (16.6)
