Научная литература
booksshare.net -> Добавить материал -> Биология -> Эбилинг В. -> "Физика процессов эволюции" -> 163

Физика процессов эволюции - Эбилинг В.

Эбилинг В., Энгель А., Файстель Р. Физика процессов эволюции — М.: УРСС, 2001. — 342 c.
Скачать (прямая ссылка): fizikaprocessovevolucii2001.djvu
Предыдущая << 1 .. 157 158 159 160 161 162 < 163 > 164 165 166 167 168 169 .. 176 >> Следующая

Еще более выдающимися способностями обладают автоматы распространения ошибки, разработанные Сейновским и Розенбергом (Sejnowski, Rosenberg, 1987)
(рис. 12.13). В отличие от автоматов Больцмана, эти обучающиеся машины обладают непрерывной областью внутренних состояний с аттракторами в 0 и 1.
Вход
Выход
Рис. 12.13. Принцип машины распространения ошибок по Сейновскому и Розенбергу (Sejnowski, Rosenberg, 1987)
Рис. 12.12. Принцип машины Больцмана по Эккли, Хинтону и Сейновскому (Ackley, Hinton, Sejnowski, 1985). Система, обладающая ассоциативной памятью, обучается после нескольких циклов преобразовывать входное изображение в требуемое выходное изображение
При заданном входе ошибка на выходном уровне составляет величину
Е(*) = ^2 (zk-4?
Невыход
(zit г- реальное выходное состояние, z'k — требуемое выходное состояние). В рамках медленной адаптивной динамики матричные элементы связей Ту изменяются за один акт обучения при следовании градиентной стратегии на величину
Tij ~ -grad E(z).
После большого числа фаз обучения (102—104) система, как правило, научается с высокой достоверностью сопоставлять заданным состояниям на входном уровне требуемые состояния на выходном уровне. Наиболее впечатляющим из известных ныне примеров обучения является разработанная Сейновским и Розенбергом программа NETtalk (Sejnowski, Rosenberg, 1987): после обучения эта система обретает способность правильно прочитать любой заданный (неизвестный) текст. Задача состоит в том, чтобы данному напечатанному слову поставить в соответствие оптический сигнал, свободный от помех и искажений. Автоматы Больцмана после длительной тренировки демонстрируют такую же способность читать, какой обладают школьники 2-го или 3-го класса. При этом автоматы Больцмана совершают те же ошибки, что и дети, например, при чтении редких слов и исключений. Другой эксперимент относится к эффекту повторений, перерывов в обучении и т. п. При возмущении 65% связей в сети способность к чтению утрачивается, но скорость повторного обучения оказывается более высокой, чем при первичном обучении. Как показывают имеющиеся эксперименты, автоматы Больцмана удобны для проверки психологических гипотез. Область применения сетевых автоматов далеко не исчерпана.
Рассмотрим теперь возможные или уже существующие реализации обсуждаемых моделей в аппаратурном оформлении компьютеров. Цель исследований, проводимых в этом направлении, состоит в том, чтобы найти наиболее простую и изящную физическую реализацию сетей, доказавших свои преимущества на уровне моделирования, разумеется, с учетом возможностей современной техники (VLSI-технологии). Рмс 12 14. Нелинейный RC-
Мы уже упоминали об одном таком специальном контур, из которого можно
элементе — чипе, решающем задачу коммивояжера, построить сеть, действующую
т. е. чипе, связанном с нелинейной ЯС-цепыо (AJek- аналогично нейронной сети
sander, 1965, 1988). Частный вариант представляет собой схема, составленная из ЯС-цепей (рис. 12.14) (Hopfield, Tank, 1986). Каждый элемент имеет несколько входов и один выход, напоминая тем самым структуру нейрона. Правила Кирхгофа для г-узла цепи позволяют записать уравнение
Лщ щ к—' _
где TijVj — токи на входе синапса, U — ток на выходе. Зависимость между напряжением щ в ЯС-контуре и выходным напряжением определяется отображением с нелинейной характеристикой
Vi = д(щ),
где д — функция типа сигма-функции. Тем самым ЛС-контур обретает способность быть активным (возбуждаться) или блокировать прохождение импульса. И в этом
случае аналогия с нейроном вполне очевидна. Можно показать, что цепь, представленная на рис. 12.14, обладает функцией Гамильтона
я = “? вдч - ?UV,+? i т.W.
У * »' о
При фиксированной схеме эта система позволяет легко реализовать градиентную стратегию, так как выполняется неравенство:
(Я — функция Ляпунова системы при Ту = Ту,-). Стратегия разработки физических элементов состоит в следующем: сначала с помощью компьютерной модели следует найти «подходящую» синаптическую матрицу, а затем нанести проводящие дорожки на кремневый чип. В силу неизменяемой конфигурации проводников такая ЯС-цепь может решать только одну задачу, например, распознавание одного класса объектов. Потенциальные приложения такой подход, по-видимому, найдет в массовом контроле дешевых продуктов и, возможно, в военной области.
Недостатком сетей, реализуемых с помощью кремневой технологии, следует считать отсутствие возможности варьировать конфигурацию проводников; синаптическая матрица определяется после фазы апробирования. Существенно большей гибкостью обладают оптические реализации, которые уже имеются по крайней мере на стадии испытания несовершенных образцов. При этом роль синаптической матрицы переходит к объемной или плоскостной голограмме. Тем самым достигается высокая гибкость и вариабельность. В настоящее время проводятся испытания систем двух основных типов (Gibbs, 1986).
Предыдущая << 1 .. 157 158 159 160 161 162 < 163 > 164 165 166 167 168 169 .. 176 >> Следующая

Реклама

c1c0fc952cf0704ad12d6af2ad3bf47e03017fed

Есть, чем поделиться? Отправьте
материал
нам
Авторские права © 2009 BooksShare.
Все права защищены.
Rambler's Top100

c1c0fc952cf0704ad12d6af2ad3bf47e03017fed