Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
Ю.О нейронных сетях
Нейронная сеть представляет собой высокопараллельную динамическую систему с топологией направленного графа, которая может получать выходную информацию посредством реакции ее состояния на входные воздействия. Узлами в нейронной сети называются процессорные элементы и направленные каналы.
Нейронные сети по сути дела являются формальным аппаратом описания основной части алгоритма решения задачи на нейронных ЭВМ. Основой данной книги, как и книги [В~6], является системный подход к синтезу нейронных сетей, т.е. подход к построению самих нейронных сетей и их
алгоритмов адаптации, аналогичный классическим адаптив-. ным системам управления.
Возможны, с нашей точки зрения, четыре подхода к ис-i следованию нейронных сетей:
1. Психологический подход, когда нужно смоделировать
некую психологическую парадигму, для чего строится и ис следуется нейронная сеть некоторой структуры. щ
2. Нейрофизиологический подход, когда, исходя из знаний структуре некоторого раздела мозга, строится и исследуете нейронная сеть, моделирующая функции данного раздела мозг
3. Алгоритмический подход, когда ставится математичес кая задача и, исходя из этой постановки, строятся адекват^ ные нейронная сеть и ее алгоритм настройки для решета этой задачи.
4. Системный подход, объединяющий вышеизложенные являющийся основой данной книги. На рис. В-6 представлен общая структура синтеза нейронных сетей, которая являете основным предметом изложения в данной книге.
10.1. Структуры нейронных сетей
В 40-, 50- и 60-е годы теория автоматов из булевски^ элементов была основой построения архитектуры и отдель^ ных блоков однопроцессорных ЭВМ. Та же теория автомат тов из булевских элементов продолжает быть логической основой малопроцессорных, транспьютерных и подобные им ЭВМ, а также ЭВМ с архитектурой SIMD, где перифе рийным процессором является сеть однобитовых процессор ров (STARAN и др.).
Подобно этому теория нейронных сетей является логичес| кой основой нейрокомпьютеров, причем не только на сего; няшний день. Это было в 50-, 60- и 70-е годы. Сейчас это факт стал более очевидным вследствие революционного раз вития тематики нейрокомпьютеров.
Нейронная сеть - это сеть с конечным числом слоев одиночных элементов - аналогов нейронов с различны» типами связей между слоями нейронов. При этом колич^ ство нейронов в слоях выбирается необходимым для o6e<j печения заданного качества решения задачи, а число слое нейронов как можно меньшим для уменьшения времени pfi шения задачи.
Рис. В—6. Системный подход к синтезу многослойных нейронных
сетей
Книга посвящена описанию нейронных сетей различной структуры. Приводятся объективные предпосылки перехода от булевского к пороговому базису в вычислительной
технике. Описываются основные типы пороговых элемен тов - аналогов нейронов. Анализируются причины рассмот рения многослойных нейронных сетей, интерес к которы начал проявляться еще в 60-е годы с появлением класси ческой работы Ф. Розенблатта [В-1]. Многослойность пон мается как особое свойство структуры преобразования, ос ществляемого разомкнутой системой при топологическо а не символическом его представлении.
Ф. Розенблаттом [В-1] были рассмотрены многослойные с стемы, где элементы в каждом слое находятся в равнопра ном топологическом отношении к элементам других слоев. Сло образуют сенсорные элементы, являющиеся источником си налов для ассоциативных элементов трехслойного персептр-на. Ассоциативные элементы также образуют слой элемен тов, входом которых являются выходные сигналы сенсорны: элементов следующего слоя. Многослойной системой называ ется система элементов с объединением их в отдельные сло с топологически равными свойствами и различным характе ром связей между слоями элементов. Рассматриваются раз личные типы многослойных нейронных сетей, т.е. нейронны сетей с последовательными, перекрестными, обратными свя зями, континуальные нейронные сети. Приводятся пример многослойных нейронных сетей, предложенных отдельным авторами.
Основными преимуществами нейронных сетей, как лог ческого базиса алгоритмов решения сложных задач, являютс следующие:
- инвариантность методов синтеза нейронных сетей размерности пространства признаков;
- адекватность современным перспективным технолог ям;
- отказоустойчивость в смысле монотонного, а не к тастрофического изменения качества решения зад чи в зависимости от числа вышедших из строя эл ментов.
Основной целью данного раздела книги является выясни почему система для решения определенной задачи долж строиться именно как нейронная сеть, как выбрать топо гию этой сети (число слоев, число элементов в слое, хар тер связей, характер структуры).
10.2. Исследование характеристик входного сигнала нейронных сетей
В гл.1 работы [В-6] при исследовании характеристик входного сигнала нейронных сетей для весьма распространенной задачи распознавания образов вводится характеристика квалификации учителя, позволяющая получить выражение для функций распределения входного сигнала, включающих в себя как частный случай известные режимы обучения и самообучения. В общем случае квалификация учителя вводится различной для образов, принадлежащих объективно различным классам. Показывается возможность введения более тонких характеристик входного сигнала, например «собственного мнения учителя о своих способностях».
