Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
Рис. 15.10. Усредненные кривые зависимости вероятности правильного распознавания от дисперсии весовых коэффициентов для двухслойной и трехслойной сети с одинаковым числом нейронов в первом слое (Hj=5)
Рис. 15.11. Усредненные кривые зависимости вероятности правильного распознавания от дисперсии весовых коэффициентов для двухслойной и трехслойной сети с одинаковым числом нейронов в первом слое (Н=1)
Этап 5. Рассмотрим все возможные двух- и трехслойные сети из Имеющейся совокупности, у которых суммарное число нейронов одинаково. Таких пар всего три: с шестью нейронами (3+2+1 и 5+1), семью нейронами (4+2+1 и 6+1) и восемью нейронами (5+2+1 и 7+1). Соответствующие кривые приведены на рис.15.12, а,б,в. Отсюда можно сделать вывод, что двухслойная сеть обладает большей параметрической надежностью.
Рис. 15.12. Усредненные кривые зависимости вероятности правильного распознавания от дисперсии весовых коэффициентов для двухслойной и трехслойной сети с одинаковым суммарным числом нейронов: а - Н. = 6; б - Н, = 7; в - И, = 8
Проведенное исследование позволяет сделать следующие выводы:
1. Вероятность правильного распознавания уменьшается с ростом дисперсии весовых коэффициентов и порога при фиксированном сдвиге математического ожидания.
2. Нейрон обладает максимальной параметрической надежностью, когда гиперплоскость, им реализуемая, проходит через середины соответствующих ребер гиперкуба.
3. Параметрическая надежность нейронной сети повышается с ростом числа нейронов в первом слое как у двухслойных, так и у трехслойных сетей.
4. При переходе от двухслойной к трехслойной сети, реализующей ту же логическую функцию с одинаковым числом нейронов в первом слое, параметрическая надежность уменьшается.
5. Сравнение двухслойных и трехслойных сетей с одинаковым суммарным (по всем слоям) числом нейронов показывает, что двухслойная сеть обладает большей параметрической надежностью.
Стоит отметить, что более детальное экспериментальное исследование параметрической надежности может быть проведено лишь при наличии множества требуемых реализаций нейронных сетей: с большим числом нейронов в слоях, большим числом слоев и т.д.
Ниже представлен проект плана эксперимента, который можно было бы провести в дополнение к описанному выше при наличии достаточного числа требуемых реализаций многослойных нейронных сетей.
Исследовать зависимость параметрической надежности нейронной сети от :
1) числа слоев при фиксированных величинах Hv Н2,
2) размерности входного сигнала нейронной сети Hv W;
3) числа нейронов в слоях при фиксированном числе входов нейронной сети.
15.5. Исследование функциональной надежности многослойных нейронных сетей при наличии катастрофических отказов
Методика экспериментального исследования функциональной надежности многослойных нейронных сетей при наличии катастрофических отказов, как это отмечалось выше, заключается в последовательном моделировании однократных отка-
н DM6D
слоя нейрона
1 0 0,875
1 0,875
л о 0 0,875
я
1 X 1 0,875
О)
о 0 0,875
1 0,875
0 0,875
1 0,375
1 0 0,875
1 0,875
_о 2 0 0,875
«5
1 о § 1 0,875
ш
о 0 0,875
1 0,875
0 0,875
1 0,375
1 0 0,875
1 0,875
входы о 0 0,875
а 1 0,875
3 0 0,875
1 0,875
0 0,875
1 0,375
Номер Тип отказа ВПР
слоя нейрона
2 1 входы 1 0 $5"75
1 0,375
2 0 1,000
1 1,000
3 0 0,875
1 0,375
выход 0 0,750
1 0,375
2 | входы 1 0 1,000
1 1,000
2 0 0,875
1 0,375
3 0 1,000
1 1,000
выход 0 0,875
1 0,375
3 1 входы 1 0 0,750
1 0,375
2 0 0,875
1 0,375
выход 0 0,625
1 0,375
зов типа логических констант на входах и выходах нейронов и вычислении значения вероятности правильного распознавания для каждого отказа.
На основе исследования катастрофической надежности сети, покажем, как находятся «потенциально опасные» отказы и определяется ее логическая избыточность.
Результаты исследования сведены в таблицу, из которой видно, что исследуемая сеть на классе отказов типа логических констант на входах-выходе нейронов при условии равновероятности отказов обладает коэффициентом логической избыточности, равным т.е. при 6 отказах из 46 возможных вероятность правильного распознавания равна единице. Можно также выделить «потенциально опасные» отказы, задавшись минимально допустимым значением вероятности правильного распознавания. Пусть оно равно 0,750, тогда всего имеется 11 «потенциально опасных» отказов с вероятностью правильного распознавания, равной 0,375, например: const=l на выходе 1 нейронов 1 слоя, const=l на входе 1 нейронов 2 слоя и т.д.
