Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
4. Коэффициенты нейронов первого слоя и значения центров классов оптимальны. Начальные значения коэффициентов нейрона второго слоя не оптимальны.
5. Эксперименты, аналогичные п. 3, но с неоптимальными начальными значениями центров классов.
6. Коэффициенты нейронов первого и второго слоя и значения центров классов не оптимальны.
7. Все перечисленные выше эксперименты проводились при различных, но детерминированных начальных условиях. Завершающим явился эксперимент со случайными начальными условиями на коэффициенты нейронов и центры классов.
Эксперимент п. 1а показал устойчивость двухслойной нейронной сети в глобальном экстремуме специальной средней
функции риска. Для случая, когда начальные значения коэффициентов нейронов обоих слоев оптимальны, а центры классов не оптимальны, результаты эксперимента приведены на рис. 12.37. Для случая, когда начальные значения коэффициентов нейронов первого слоя были не оптимальны, а начальные значения коэффициентов нейронов второго слоя и значения центров классов оптимальны, результаты эксперимента приведены на рис. 12.38. Как видно из результатов данного эксперимента, выбранное расположение мод плотности распределения входного сигнала делает гиперплоскости (I, II, III, IV) мало чувствительными к повороту. Здесь при сравнительно большом диапазоне угла поворота плоскостей величина функционала качества не изменяется (при условии неизменного по-
Рис.12.37. Динамика настройки по координатам центров классов
ю п i2 а т is is п is
Рис. 12.38. Результаты исследования двухслойной нейронной сети в режиме самообучения:--------------------начальное положение гиперплоскостей; ------------оптимальное положение гиперплоскостей;------------------
положение гиперплоскостей через 3 ООО итераций
рога а1;). Этот факт, очевидный из физических соображений, подтверждается экспериментом. Приведенные рассуждения позволяют считать целесообразным в дальнейшем при заданном расположении мод /(х) исследование лишь динамики настройки порогов a{.(j= 1, 2, 3, 4) и только в отдельных исключительных случаях исследовать также и динамику настройки коэффициентов наклона гиперплоскостей.
Для случая, когда начальные значения коэффициентов нейрона второго слоя оптимальны, а начальные значения коэффициентов нейронов первого слоя и значения центров классов брались с одинаковыми по величине отклонениями в одну сторону (отклонения отрицательны), результаты эксперимента приведены на рис.12.39. Динамика настройки порогов приведена на рис. 12.40 (сплошная линия). В случае положительных отклонений динамика настройки также проиллюстрирована на рис.12.40 (штрих-пунктирная линия). Для случая, когда начальные значения коэффициентов нейрона второго слоя оптимальны, а начальные значения коэффициентов нейрона первого слоя и центров классов брались с различными по величине и знаку отклонениями от оптимальных, результаты эксперимента приведены на рис. 12.40 (пунктир) и 12.41.
Рис. 12.39. Результаты исследования двухслойной нейронной сети ¦ режиме самообучения: I - начальное положение гиперплоскостей; II -Оптимальное положение гиперплоскостей; III - положение гиперплоскостей через 3 ООО итераций
...................I I I I__________I__I___1__I__1___I__|____
о 200 boo woo то то ггоо гвоо то
Рис. 12.40. Результаты исследования двухслойной нейронной сети в режиме самообучения: 1-4 - конечные положения гиперплоскостей, реализуемых нейронами 1-4 первого слоя соответственно
Цель эксперимента п.6 состояла в выяснении влияния дисперсии распределений, представляющих моды /Х(х), на качество распознавания. Эксперименты этой группы проводились при одних и тех же начальных условиях (типа начальных условий эксперимента, представленного на рис. 12.39) и различных дисперсиях ст2 (рис. 12.42).
в 1 2 3 Ч S в 7 в 3 Ю U 12 13 W 15 16 П 1в 13
Рис. 12.41. Результаты исследования двухслойной нейронной сети В режиме самообучения: I - начальное положение гиперплоскостей; II -оптимальное положение гиперплоскостей; III - положение гиперплоскостей через 3 ООО итераций
Сравнивая результаты экспериментов этой группы, можно сделать вывод о том, что для данного расстояния между «одами плотности распределения входного сигнала задача самообучения может быть решена для а2макс=1,5. Этот экспериментальный факт имеет ясное физическое обоснование, так '#*к при большом о2 (сильно пересекающиеся классы) невозможно выделить группы локально сосредоточенных объектов
и, следовательно, методы самообучения (на данном этапе своего развития), основанные на выделении таких групп, оказываются неработоспособными.
Для случая, когда начальные значения коэффициентов ней-первого слоя и начальные значения центров классов оп-Дишальны, а начальные значения коэффициентов нейрона вто-' jBpro слоя не оптимальны, динамика процесса настройки коэффициентов нейрона второго слоя и результаты эксперимента представлены на рис. 12.43. Все эксперименты были Проведены при памяти системы mn=l. В этом смысле следует Учесть тот факт, что увеличение памяти, вообще говоря, грменьшает случайную ошибку измерения.
