- 20 -
Шаг 9. Проверяются условия останова.
Рассчитываются входной и выходной сигналы нейрона при предъявле-
нии изображения X 1:
9
S1 xi2wi w0 1 0 1 ( 2) 1 0 1 0 ( 1) 2 1 0 1 ( 2) ( 1) 0
i1
1 0 0 6;
y1 1, так как S1 0.
Рассчитываются входной и выходной сигналы нейрона при предъявле-
нии изображения X 2 :
9
S 2 xi2wi w0 1 0 ( 1) ( 2) 1 0 1 0 1 2 1 0 ( 1) ( 2) ( 1) 0
i1
1 0 0 6;
y2 1, так как S 2 0 .
Поскольку вектор ( y1, y2 ) (1, 1) равен вектору (t1, t2 ) , то вычисления прекращаются, так как цель достигнута – нейрон правильно распознаёт заданные изображения.
Основная идея правила (2.13) – усиливать связи, которые соединяют нейроны с одинаковой по времени активностью, и ослаблять связи, соединяющие элементы с различной активностью, может быть использована и при настройке нейросетей с бинарными элементами. Правило Хебба (2.13) для однослойных бинарных сетей можно записать в виде
wi (t 1) wi (t) wi , |
(2.14) |
|||
где |
|
|
|
|
|
i |
|
|
|
1, если x y |
1, |
|
|
|
|
если xi 0, |
|
(2.15) |
|
wi 0, |
|
|||
1, если x |
0 |
и y 0. |
|
|
|
i |
|
|
|
Пример 2. Пусть требуется обучить бинарный нейрон распознаванию изображений X 1 и X 2 из примера 1. При этом изображению X 1 пусть со-
ответствует выходной сигнал нейрона «+1», а изображению X 2 – «0». Применение правила Хебба в этом случае дает следующие результаты:
Шаг 1. Задаётся множество
- 21 -
M X |
1 |
(1, 0, 1, 1, 1, 1, 0, 0, 1), 1 , X |
2 |
, и |
|
|
|||
|
|
(1, 1, 1, 1, 0, 1, 1, 0, 1), 0 |
инициируются веса связей нейрона wi 0 (i 0, 9) .
Шаг 2. Для пар ( X1, 1) , ( X 2 , 1) выполняются шаги 3–5.
Шаг 3. Инициируется множество входов нейрона элементами изображения X 1:
x0 1, xi x1i ( i 0, 9) .
Шаг 4. Инициируется выходной сигнал нейрона для изображения X 1: y t1 1.
Шаг 5. Корректируются веса связей нейрона с помощью соотношений
(2.14), (2.15):
w0 w0 w0 0 1 1; w1 w1 w1 0 1 1;
w1 w3 w4 w5 w6 w9 0; w2 w2 w2 0 0 0;
w2 w7 w8 0.
Шаг 6. Инициируется множество входов нейрона элементами изображения X 2 :
x0 1, xi xi2 (i 0, 9) .
Шаг 7. Инициируется выходной сигнал нейрона для изображения X 2 : y t 2 0 .
Шаг 8. Корректируются веса связей нейрона с помощью соотношений
(2.14), (2.15):
w0 w0 w0 1 ( 1) 0; w1 w1 w1 1 ( 1) 0; w1 w3 w4 w5 w6 w9 0; w2 w2 w2 0 ( 1) 1; w5 w5 w5 1 0 1;
w2 w7 1.
w8 w8 w8 0 0 0.
- 22 -
Шаг 9. Проверяются условия останова.
Рассчитываются входные и выходные сигналы нейрона при предъявле-
нии изображений X 1, X 2 :
9
S1 x1i wi w0 1 0 0 1 1 0 1 0 1 1 1 0 0 1
i1
0 0 1 0 0 1;
y1 1, так как S1 0 ;
9
S 2 xi2wi w0 1 0 1 1 1 0 1 0 0 1 1 0 1 1
i1
0 0 1 0 2;
y2 1, так как |
S 2 0 . |
Поскольку вектор y1, y2 1, 0 |
равен заданному вектору |
t1, t 2 1, 0 , то цель достигнута и вычисления прекращаются. Нейронная сеть Хебба. Использование группы из m биполярных или
бинарных нейронов A1, ... , Am (рис. 2.4) позволяет существенно расширить возможности нейронной сети и распознавать до 2m различных изображе-
ний. Правда, применение этой сети для распознавания 2m (или близких к
2m чисел) различных изображений может приводить к неразрешимым проблемам адаптации весов связей нейросети. В связи с этим часто рекомендуют использовать данную архитектуру для распознавания только различных изображений, задавая каждому из них единичный выход одного A -эле- мента (выходы остальных при этом должны принимать значение «–1» для биполярных нейронов или «0» – для бинарных).
- 23 -
x1 |
|
w11 |
|
|
A1 |
y1 |
|||
w1i |
w i1 |
|
|
|
|
||||
. |
|
|
. |
|
|
|
|||
|
w1m |
|
|
|
|
|
|||
. |
|
|
|
. |
|
|
|
||
. |
|
|
wn1 |
|
. |
|
|
|
|
xi |
|
|
|
|
|
|
|
||
|
wii |
|
|
Ai |
yi |
||||
. |
|
|
|
wni |
|
|
|
||
|
|
|
. |
|
|
|
|||
|
|
|
|
|
|
|
|||
. |
|
|
|
|
|
|
|
||
. |
|
|
|
|
. |
|
|
|
|
|
|
|
wim |
|
. |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
xn |
|
|
|
|
|
Am |
|
ym |
|
|
|
wnm |
|
|
|
|
|||
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
|
|
Рис. 2.4. Нейронная сеть из m элементов
Однослойная нейронная сеть с двоичными нейронами (рис. 2.4) может быть обучена с помощью алгоритма на основе правила Хебба. В этом случае она называется сетью Хебба. Использование других алгоритмов обучения этой же сети приводит и к изменению названия нейронной сети. Использование в названии сетей их алгоритмов обучения характерно для теории нейронных сетей. Для биполярного представления сигналов возможно обучение нейросети с помощью следующего алгоритма:
Шаг 1. Задаётся множество M X 1, t1 , ... , X m , t m , состоящее из пар (входное изображение X k x1k , ... , xmk , необходимый выходной сиг-
нал нейрона t k ( k 1,m ). Инициируются веса связей нейрона: wij 0 , j 1, n, i 1, m .
Шаг 2. Каждая пара ( X k , t k ) проверяется на правильность реакции
нейронной сети на входное изображение. Если полученный выходной век-
тор сети ( y , ..., |
yk ) , отличается от заданного t1 |
(t , ..., tk ) , то выполняют |
||||||
|
|
i |
m |
i |
m |
|
|
|
шаги 3–5. |
|
|
|
|
|
|
||
|
Шаг 3. Инициируется множество входов нейронов: |
x0 1, y j xkj |
||||||
|
|
|
|
|
|
|
|
|
( j 0, n ). |
|
|
|
|
|
|
||
|
|
|
|
|
||||
|
Шаг 4. Инициируются выходные сигналы нейронов: y |
t k (i 0, m ). |
||||||
|
|
|
|
|
i |
i |
||
Шаг 5. Корректируются веса связей нейронов по правилу:
( j 0, n, i 0, m) .
- 24 -
Шаг 6. Проверяются условия останова, т. е. правильности функционирования сети при предъявлении каждого входного изображения. Если условия не выполняются, то переход к шагу 2 алгоритма, иначе прекращение вычислений (переход к шагу 7).
Шаг 7. Останов.
Порядок выполнения работы
1.Разработать структуру сети Хебба, способную распознавать 4 различные буквы Вашего имени или фамилии. При этом обосновать выбор:
числа рецепторных нейронов (число n x -элементов сети должно быть в пределах 12 n 30 );
числа выходных нейронов;
векторов выходных сигналов.
2.Разработать алгоритм и программу, моделирующую сеть Хебба. При этом в алгоритме обязательно предусмотреть возможность возникновения ситуаций с неразрешимыми проблемами адаптации весов связей нейросети.
3.Обучить нейронную сеть Хебба распознаванию четырёх заданных символов.
4.Привести набор входных символов и требуемых выходных сигналов, когда в сети возникает ситуация с неразрешимыми проблемами адаптации весов связей.
Содержание отчёта аналогично содержанию отчёта работы 1.