Научная литература
booksshare.net -> Добавить материал -> Биология -> Эбилинг В. -> "Физика процессов эволюции" -> 162

Физика процессов эволюции - Эбилинг В.

Эбилинг В., Энгель А., Файстель Р. Физика процессов эволюции — М.: УРСС, 2001. — 342 c.
Скачать (прямая ссылка): fizikaprocessovevolucii2001.djvu
Предыдущая << 1 .. 156 157 158 159 160 161 < 162 > 163 164 165 166 167 168 .. 176 >> Следующая

Исходя из этих соображений, в высокоразвитых промышленных странах была поставлена задача разработать информационные системы нового типа, которые соответствующим образом дополняли бы компьютер фон Неймана. Подчеркиваем: дополняли бы, а не заменяли бы. Сетевые компьютеры, о которых пойдет речь в этом разделе, построены по образу и подобию нейронных сетей, но не повторяют в деталях их структуру. Из-за чудовищной сложности реальных нейронных сетей сетевые компьютеры могут в лучшем случае (по крайней мере сейчас) воспроизводить лишь некоторые их аспекты. Дальний прицел исследований по созданию сетевых компьютеров состоит в разработке нового типа компьютеров, получивших в международной литературе название «нейрокомпьютеров» (Ackley et al., 1985). Схематически устройство сетевого компьютера можно представить следующим образом: он состоит из мульти-стабильных элементов, которые могут быть соединены между собой стохастически. Система состоит из входа, выхода и внутренней части, элементы которой обладают стохастической динамикой. Каждой сети можно поставить в соответствие хроматический (цветной) граф; матрица, соответствующая ребрам такого рода, называется синаптической матрицей. Цвет узлов обозначает внутреннее состояние, например, «внутрь» или «наружу». Связи между узлами переменные и подчиняются определенной динамике. Как правило, система изменяется в соответствии с быстрой детерминистической или стохастической динамикой и медленной адаптивной динамикой (принцип двойной динамики Конрада). Дальнодействующие связи заведомо допустимы. Системы такого типа традиционно встречаются в кибернетике и физике, теории электрических сетей и линейных фильтров, а также в теории нейронных систем.
Отцом теории электрических сетей, как известно, по праву считается Густав Роберт Кирхгоф, возглавлявший с 1876 по 1889 гг. первую кафедру теоретической физики в Берлинском университете. Для сетей, рассматриваемых нами в этом разделе, особый интерес представляют работы (McCullosh, Pitts, 1943; Amari, Arbib, 1982; Rumelhart, McClelland, 1986; Hoppensteadt, 1986). Упомянем также о связи такого рода сетей с теорией клеточных автоматов, основы которой были заложены фон Нейманом в его лекции «Общая и логическая теория автоматов» (сентябрь 1948 г.) Несмотря на то, что рассматриваемые нами сети имеют много общего с классическими хорошо исследованными сетями, они обладают также и некоторыми особенностями, состоящими в следующем.
1. Динамика изменения состояний нелинейна и кооперативна.
2. Состояния узлов би- или мультистабильны, состояния всей системы «фруст-рированы», и число альтернативных состояний возрастает экспоненциально с увеличением числа узлов.
3. Узлы сети иерархически упорядочены на различных уровнях.
Первые основополагающие исследования сетевых автоматов восходят к Розен-блатту (Розенблатт, 1965), который предложил и название «перцептрон», а также Минскому и Паперту (Minsky, Papert, 1969). С точки зрения приложений в последнее время особое внимание привлекают два типа автоматов:
— автоматы Больцмана (Askley, Hinton, and Sejnowski, 1985);
— атоматы распространения ошибки (Sejnowski, Rosenberg 1987).
Теория этих неоднократно обсуждавшихся в литературе обучающихся машин делает только первые шаги. Тем поразительнее достигнутые ею отдельные успехи. Под автоматом Больцмана мы будем понимать в дальнейшем стохастическую сеть, обладающую следующими основными элементами (рис. 12.12).
1. Сеть имеет иерархическую структуру и состоит из входного и выходного уровня, между которыми заключен внутренний уровень.
2. Между узлами, расположенными на этих трех уровнях, возникают стохастические связи; существует функция Гамильтона.
3. Состояния узлов (спины или цвет).подчиняются флип-динамике, соответствующей больц-мановским переходам.
4. Система попеременно переходит в фазу обучения с жестко заданными отношениями вход—выход, фазу тестирования с фиксированным входом со свободным выходом, а также корректировочную фазу.
5. Поправка, вносимая в матрицу связей в корректировочной фазе, пропорциональна отклонению между требуемым и реальным отношением вход—выход.
6. Машина тренируется (меняет три фазы) до тех пор, пока при заданном входе она не достигает требуемого выхода (при свободной игре динамики). Достижение требуемого выхода означает, что машина «научилась» при заданном входе заведомо находить требуемый выход с помощью своей внутренней динамики.
Машина Больцмана — это тренируемая сеть. Ей необходим тренер, знающий требуемые отношения вход—выход и, исходя из этого, вводящий соответствующие поправки на отклонения в целеположении (задании цели). Динамика корректировки медленная и адаптивная; наоборот, динамика «опрокидывания» («флипа») быстрая и соответствует больцмановскому переходу. «Способности» автоматов Больцмана поистине поразительны.
Например, после соответствующей тренировки эти автоматы обучаются классифицировать фигуры по типам симметрии, причем при произвольной ориентации фигур. Еще более впечатляющи достижения автоматов Больцмана, связанные с решением проблемы кодировки (.Ackley et al., 1985).
Предыдущая << 1 .. 156 157 158 159 160 161 < 162 > 163 164 165 166 167 168 .. 176 >> Следующая

Реклама

c1c0fc952cf0704ad12d6af2ad3bf47e03017fed

Есть, чем поделиться? Отправьте
материал
нам
Авторские права © 2009 BooksShare.
Все права защищены.
Rambler's Top100

c1c0fc952cf0704ad12d6af2ad3bf47e03017fed