Теория нейронных сетей - Галушкин А.И.
ISBN 5-93108-05-8
Скачать (прямая ссылка):
2=1 * г=0 j=0 •* 2=1 * •»
Сумма
z
2yi(z)yj.(z) = d1.j
целиком определяется данной логической функцией (одними значениями своих аргументов) и может быть вычислена до решения задачи синтеза нейронов, так же как и характеристический вектор. Для полного набора аргументов логической функции, существующей на 2Hl точках Номерного пространства двоичных (1, -1) переменных, справедливо следующее:
z
2 у{(г) yfz) =2Hl 8ijy (13.8)
где 8{. - символ Кронекера. В общем случае это свойство не
Рис. 13.14. Общий вид функционалов качества физически реализуемой и нереализуемой на нейроне логической функции
соблюдается при синтезе многослойных нейронных сетей. Одна ко если это соблюдается, то
2 Hi
I(\g(z)\ = ^q2^Z с2. (13.9)
В общем случае
z
2 | g(z) I = $2q (cTDc); В=Щ (13.10)
При соблюдении условия (13.9)
Hi Hi
Ц с,Ь)-5г,2».Хс'-2с,Ь,.
Выражение для оптимального, обеспечивающего миниму 1(0) вектора с имеет следующий вид:
РА
где
р( = (Ья2Н1+1)'1-
Необходимо отметить, что свойство реализуемости логической функции на одном нейроне инвариантно относительно умножения а{ на постоянный коэффициент. Поэтому выражение для искомого вектора весовых коэффициентов нейрона, реализующего логическую функцию с характеристическим вектором Ь, при соблюдении условия (13.8) имеет следующий вид:
а(»Ь(1 t = 0.....Hj, (13.11)
Таким образом, при аппроксимации первого порядка и соблюдении (13.8) вектор весовых коэффициентов равен характеристическому вектору логической функции. В этом случае, если аппроксимация первого порядка оказывается непригодной, принимают:
а{ = bt лишь для г = 1, . . . , Hv
а величину aQ варьируют для обеспечения возможной реализуемости логической функции на нейроне (см. пример ниже). В общем случае, когда соотношение (13.8) не соблюдается
Hi
I(c,b)= ^2q (cTDc) - 2 cj bj,
искомый вектор весовых коэффициентов нейрона вычисляется по формуле
а = D-Чо.
Это выражение является основным для синтеза нейронов методом минимизации функционала при аппроксимации первого порядка. Матрица D'1 и вектор Ь вычисляются по исходным значениям реализуемой логической функции. Операция с вариацией порога а„ здесь полностью аналогична соответствующей операции в случае соблюдения условия (13.8).
Пример. Пусть дана следующая конфигурация разделяющей поверхности, полученная (рис. 13.15) пересечением четырех гиперплоскостей. В табл. 13.5 представлены значения логической функции четырех переменных. Звездочкой отмечены те значения аргумента, которые не присутствуют при формировании исходной кусочно-линейной разделяющей поверхности. Множество всех возможных наборов значений входных двоичных переменных нейронов упорядочивается таким обра-
Рис. 13.15. Иллюстрация к синтезу нейронов второго слоя двухслойной нейронной сети методом минимизации функционала
Таблица 13.5
2 0 1 2 3 4* 5* 6 7 8 9* 10 И* 12 13* 14 15
У\ -1 1 -1 1 -1 1 -1 1 -1 1 -1 1 -1 1 -1 1
У, -1 -1 1 1 -1 -1 1 1 -1 -1 1 1 -1 -1 1 1
у-, -1 -1 -1 -1 1 1 1 1 -1 -1 -1 -1 1 1 1 1
У, -1 -1 -1 -1 -1 -1 -1 -1 1 1 1 1 1 1 1 1
е -1 -1 -1 -1 -I 1 -1 1 -1 1 -1 1 1 1 1 1
зом, чтобы десятичные числа z, соответствующие двоичным кодам, составленным из значений переменных, образовывали возрастающую последовательность. Полный набор значений логической функции реализует следующее преобразование: ? = + х3х4 + xjx2x4.
Определяем характеристический вектор логической функцк
№
2=2
Ь, = ^2е(2) х№> * = О, ..., Hji х0=1.
Для рассматриваемого примера Ь„=-2, Ь1=6, Ь2=-2, Ь3=10,| Ь4=6. Легко проверить, что данные коэффициенты нейрона! позволяют реализовать на нем исходную логическую функ-| цию. Однако, если аппроксимации первого порядка не хватает для обеспечения реализуемости логической функции, необ-J ходима вариация коэффициента Ь„. Для вычисленных коэффициентов bi и условия (13.11) для i = 1........Н1 вычисляв»
величину (табл.13.6)
П
B(zj=x at y(z).
Таблица 13.6
г 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15
В(2) -20 -8 -24 -12 0 12 -4 8 -8 4 -12 0 12 24 8 20
Перебор значений \=а0 (порога нейрона) производится в] пределах [В(г)макс - 0,5] + [?(2)^ + 0,5] через единицу.
Аналогично можно проиллюстрировать метод синтеза ней-1 рона методом минимизации функционала с применением ап-1
