Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
Указанная логическая функция в свою очередь должна реализоваться нейронной сетью вследствие известных преимуществ пороговой логики, а также вследствие необходимости функциональной однородности всей системы. Граф многослойной нейронной сети с последовательными связями показан на рис. 2.7. В работе [2.6] дана подробная классификация типов
Рис. 2.7. Граф многослойной нейронной сети с последовательными связями
структур многослойных нейронных сетей с последователь ми связями по следующим признакам:
- число слоев нейронов с настраиваемыми коэффици тами;
- число слоев нейронов с фиксированными коэффици тами;
- метод фиксации коэффициентов.
Рассмотрены, в частности, следующие структуры: дв
слойная сеть с настраиваемыми коэффициентами первого с-и фиксированными (или настраиваемыми) коэффициент нейронов второго слоя; трехслойная нейронная сеть с разл ными вариантами слоев с настраиваемыми и фиксирована коэффициентами.
Двухслойная нейронная сеть с настраиваемыми коэфф" ентами имеет ограниченные возможности в смысле реал ции различных конфигураций разделяющей поверхности, как нейрон не может реализовать произвольную булевс функцию от N>2 двоичных переменных (в данном случае рон второго слоя нейронной сети). Если не задано огран ние на число нейронов во втором слое, то для реализа кусочно-линейной поверхности произвольной конфигурации статочно иметь в нейронной сети количество слоев W=3.
Задача синтеза трехслойной нейронной сети при зада: числе нейронов в первом и третьем слое сводится к мини зации числа нейронов второго слоя и настройке коэфф ентов нейронной сети. Проведенные исследования многое ных нейронных сетей с последовательными связями позв ‘ ют сделать вывод, что качество их работы монотонно во стает при увеличении числа слоев и числа нейронов в к дом слое.
2.3. Структурное и символическое описание многослойных нейронных сетей
В последнее время можно отметить резкое возраста роли структурных методов в исследовании различного систем по сравнению с символическими методами. Основ причинами данного подхода являются такие свойства ис дуемых систем, как многослойность, многоконтурность и г гомерность. Именно этими свойствами обладают и совре ные нейронные сети. Настоящая работа ставит своей це развитие структурного подхода, когда относительный вес 62
работок блока обучения уменьшается, а увеличивается соответственно вес разработок при выборе структуры разомкнутой системы. Именно по этим причинам кроме символических описаний разомкнутых систем возникает необходимость в структурном представлении преобразований. Ниже представлено формальное описание основных типов многослойных нейронных сетей.
а) Двухслойная нейронная сеть:
y(n)= / [g(n)] = / [ Д ahiyhi(n)]=f [ Eoah/[ghl(n)]]-
б) Многослойная нейронная сеть из нейронов с континуумом решений:
Здесь N=H0 ~ размерность исходного пространства п знаков.
Стрелкой и символом указаны обозначения сигнала, опи ваемого в формуле выражением справа от стрелки;
и g?'J*4n) — соответственно выходной и аналоговый выхо
hW-j+l
сигналы 11уу^+1-то нейрона (W-;+l)-ro слоя рассматривав многослойной нейронной сети.
Многослойная нейронная сеть с К решениями получав заменой в (2.2) в выходном слое нелинейного преобразова / на определяемое выражением (1.3).
в) Многослойная нейронная сеть с Hw выходными ка лами. Символическое описание подобной системы доста но просто получить из (2.2) и граф-схемы нейронной с представленной на рис.2.7. В частности, можно рассмат вать случай сигналов е(п) и у(п) одинаковой размерност
г) Многослойные нейронные сети с перекрестными се ми. В многослойных нейронных сетях с полными перекрес-ми связями [В.б] множество признаков j-го слоя (j=1 состоит из признаков исходного пространства и выходных налов всех слоев с номерами от 1 до (j - 1).
Анализ частных структур с полными перекрестными с зями показывает, что они значительно проще (по числу : ронов) структур с полными последовательными связями условии, что обе структуры реализуют одну и ту же кон гурацию разделяющих поверхностей в пространстве при-ков. В частности для двухслойной нейронной сети с перек' тными связями:
/ , N N
y(n)=/[ Хо %/[ 2 а<Л*Дп)]+2 аЛ.(п)].
Граф-схема данной нейронной сети представлена рис. 2.8.
Рис. 2.8. Граф-схема нейронной сети с перекрестными связ
В принципе возможно рассмотрение многослойных нейронных сетей произвольной структуры с перекрестными связями.
д) Многослойные нейронные сети с обратными связями. Для нейрона с обратной связью (рис. 2.9):
N
y(n)=f [ 2 atJCf(n) + а'у (п-1)].
Рис. 2.9. Граф-схема нейрона с обратной связью
В случае двухслойной нейронной сети с обратными связями (рис. 2. 10):
И1
у(п)=/ te(n)]; ?(^=2 ahiyhl(n) +аку(п-1У,
N
Vhl(n)=f [ghl(n)]; *hl(n)=2 ajhlx,.(n) + a"y(n)+ a’^y^n-l).
Рис. 2.10. Граф-схема двухслойной нейронной сети с обратными связями
