Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
5. Наличие желания максимально повысить скорость вычислительных операций на нейронной сети.
6. Ограничения архитектуры, связанные с удобством (простотой) или ограничениями принятого способа технической реализации.
7. Способ объединения в группы процессорных элементов.
8. Способ функционирования во времени (дискретный или непрерывный).
9. Способ изменения весов связей (случайный или упорядоченный).
10. Способ соединения независимо настроенных (или настраиваемых) нейронных сетей вместе.
2.1. Частные типы архитектур нейронных сетей
Ниже описаны некоторые частные структуры нейронных сетей, являющиеся предметом интересов при решении различных задач в нейросетевом базисе. На рис. 2.1 представлена
Рис.2.1. Сети с прямыми связями
структура, условно называемая нейронной сетью с прям связями. Характерной особенностью такой сети является венство числа входов, выходов и нейронов в каждом из дв слоев сети, а также наличие так называемых латералы связей между нейронами 1-го и 2-го слоя. При этом на рис. латеральные связи имеют ограниченную структуру (глуб распространения). На рис. 2.2 представлена частная стр
Рис. 2.2. Нейронные се перекрестными связями
ра двухслойной нейронной сети, в которой настраиваемые в связей 2-го слоя определяются выходными сигналами 1-го сл Рис. 2.3 иллюстрирует пример структуры нейронной се упорядоченными обратными связями, а рис. 2.4 с аморф
Рис. 2.3. Сети с упорядоч ными обратными связями
Рис. 2.4. Сети с аморфн обратными связями з
обратными связями. На рис. 2.5 представлены частные структуры нейронных сетей с латеральными связями, наиболее часто применяемые в системах обработки сигналов и изображений.
А А А А А А А
\ ч
1 f
!
1
Рис. 2.5. Основные типы нейронных сетей с латеральными связями-' а - латеральные связи, повторяющиеся на каждом процессорном элементе; б - латеральные связи, повторяющиеся на каждом процессорном элементе; в — каждый вход имеет специфическое распределение ВаД полем процессорных элементов; г - латеральные связи могут быть любых типов
2.2. Многослойные нейронные сети с последовательными связями
Исторически многослойные нейронные сети в теории познавания образов появились вследствие следующих прк
1. Линейная разделяющая поверхность (линейный пор вый элемент) не обеспечивает достаточной вероятности п вильного распознавания для распределений, отличных от мальных с равными ковариационными матрицами.
2. В N-мерном пространстве двоичных переменных тип плоскость не может реализовать любую булевскую функ от N двоичных переменных при N>2.
3. Чтобы повысить вероятность правильного распознава в случае, когда совокупности векторов двух классов обра распределены по закону более сложному, чем нормальн-равными ковариационными матрицами, строятся системы; познавания образов, реализующие нелинейную разделяю поверхность, которая, в частности, может быть задана в жением:
L L
X... X а,
/>=1 C=i
г •+-
ц-lr
I L
, + X Ха, 1
, , X, X,
hh h h
+ ta,
_ x, + а„= /.=i !l '> 0
Реализация систем распознавания образов с нелине разделяющей поверхностью является сложной практиче задачей, связанной с необходимостью настройки большого ла коэффициентов порядка (N+r)\/N\r], где N - размерн пространства признака; г - порядок разделяющей поверхн
Например, при N порядка нескольких сот и г порядка число настраиваемых коэффициентов составляет неско миллиардов. Трудности решения задачи построения нел ной разделяющей гиперповерхности преодолеваются использования кусочно-линейной аппроксимации этой по: хности гиперплоскости. Если при этом поверхность r-го по ка аппроксимирована достаточно хорошо с точки зрения роятности правильного распознавания, то порядок числа страиваемых коэффициентов равен N г, т. е. в случае, ука ном выше, составляет несколько сот.
Для задач распознавания образов и других, допускаю применение в первом слое нейронной сети нейронов с ко' ным количеством решений, необходимо решить задачу о
сения различных областей исходного многомерного пространства признаков к тому или иному классу (рис. 2.6).
х(п)
нейрон 1
У»
нейрон 2
У2(п)
нейрон М,
У\(п)
Блок отнесения областей многомерного пространства признаков к тому или иному классу
У(п)
рис. 2.6. Структурная схема нейронной сети, реализующей кусочно-линейную разделяющую поверхность
Указанные области образуются при взаимном пересечении гиперплоскостей, реализуемых нейронами первого слоя. Каждая из областей определена в виде набора двоичных сигналов (Нг - число нейронов первого слоя), принимающих значения (0,1) или (+1,-1) на выходе нейронов первого слоя, и соответствующего значения выходного сигнала всей системы. Блок отнесения областей к тому или иному классу должен реализовать в данном конкретном случае некоторую функцию у*( у ) от Нг двоичных переменных.
