Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
Можно сказать, что ЭВМ с архитектурой ОКМД и МКМД Условно адекватны формализуемым задачам с хорошо рас-
параллеливаемым алгоритмом решения и трудноформали-зуемым задачам.
Именно неформализуемые задачи были еще 30 лет назад причиной появления нейронных ЭВМ, хотя в принципе нейронные задачи решались на ЭВМ с архитектурой ОКОД, и есть попытки решать их на ЭВМ с архитектурами ОКМД и МКМД.
Одними из основных задач, которые необходимо решить при построении нейронных ЭВМ, являются:
- разработка алгоритма решения задачи, адекватного структуре нейронной ЭВМ. Выделение в структуре алгоритма решения задачи ядра, адекватного по структуре нейронной сети с наибольшим параллелизмом (числом нейронов в слоях, размерностью пространства признаков);
- разработка структур и методов реализации нейронных сетей, адекватных заданному классу задач;
- разработка алгоритмов настройки нейронных сетей при решении заданных задач и исследование их сходимости;
- развитие теории нейронных сетей в сторону универсализации нейронного ядра в более широком классе алгоритмов.
Структура однородной нейронной сети выбрана для выделения в качестве ядра алгоритма решаемых задач по следующим причинам:
L Она представляет возможность массового параллельного синхронного выполнения большого числа операций, состоящих в свою очередь из простейших операций сложения, умножения и нелинейных преобразований.
2 Реализует достаточно сложное и гибкое функциональное преобразование входного пространства состояний в выходное пространство.
3 Допускает аналитическое описание преобразования входного пространства состояний в выходное.
4. Позволяет организовать контролируемый процесс настройки коэффициентов сети в адаптивном режиме.
5 В будущем с использованием аппарата линейных последовательностных машин Гилла позволит подойти к решению проблемы аналитического описания, а следовательно, и синтеза алгоритмов адаптации в многослойных нейронных сетях [В-8].
6. О способах перестройки коэффициентов
Способы перестройки весовых коэффициентов нейронных сетей в нейронных ЭВМ можно классифицировать следующим образом:
- технологические (на этапе производства), как это например делается для разработанных японских GaAs-оптических нейрочипов.
- схемотехнические (у пользователя до начала эксплуатации);
- системотехнические (в процессе работы), которые в свою очередь в зависимости от класса задач можно разделить на несколько подклассов, например, условно на медленные, как при решении систем линейных неравенств, или быстрые, как при адаптивной обработке входного сигнала нейронной сети.
7. Классификация нейронных ЭВМ
По общему признанию многих авторов, нейронные идеи имеют более широкий спектр реализации, чем другие известные идеи параллелизма за счет того, что в них заложено внутреннее свойство большего массированного параллелизма.
На рис. В-5 представлена структура основных типов нейронных ЭВМ. Данная структура представлена с целью определения основных перспектив развития архитектур высоко-
производительных ЭВМ, в частности ЭВМ нейронного типа Ниже дана краткая характеристика различных видов ней-! ронных ЭВМ. Предполагается, что производительность ней-j ронных ЭВМ растет с ростом номера типа.
Тип 1. Вычислительные машины данного типа предстаЕ известными образцами ЕС ЭВМ, СМ ЭВМ и персональных ЭВМ
Тип 2. Это нейронные ЭВМ самого простого вида, в кон торых на ЭВМ типа 1 программно эмулируется нейронный алгоритм и за счет этого достигается эквивалентное увели-! чение производительности на задачах.
Тип 3. К данному типу ЭВМ относятся однопроцессорные ЭВМ (большие, миниЭВМ или персональные ЭВМ), оснащен-i ные матричными процессорами. Это ЭВМ типа DAP, IBM FPS, STARAN и пр.
Тип 4. Это нейронные ЭВМ с программно-аппаратной эмуляцией нейронных алгоритмов на ЭВМ типа 3.
Тип 5. ЭВМ различного класса от суперЭВМ до многомик- ] ропроцессорных, имеющие несколько процессоров (2,4,8,16, но, как правило, не более). Это ЭВМ типа Эльбрус, WARP, J Alliant и т.п.
Тип 6. Это нейронные ЭВМ с программной эмуляцией ней- j ронных алгоритмов на ЭВМ типа 5.
Тип 7. Это ЭВМ с архитектурой ОКМД, имеющие несколько, как правило немного, (2, 4, 8) командных процессоров.
Тип 8 представляет собой ЭВМ типа 7 с программно-аппа-| ратной реализацией на них нейронных алгоритмов решения! задач.
Тип 9. Это ЭВМ транспьютерного типа с числом процес-| соров - десятки, сотни и тысячи.
Тип 10 представляет реализацию на этих ЭВМ (ЭВМ тип 9)| нейронных алгоритмов решения задач.
Тип 11. ЭВМ с архитектурой МОКМД, в которой при наличии достаточно мощного транспьютерного или транспью-1 тероподобного ядра увеличение производительности достигается за счет добавления к каждому процессору этого ядра! сопроцессора, представляющего собой некоторое образова-§ ние с архитектурой ОКМД.
Тип 12. Это тип ЭВМ, аналогичный типу 11, в которой синхронно функционирующие грозди процессорных элемен- j тов реализуют нейронные алгоритмы.
