Россия |
Алгоритмы обучения
Обучение входной звезды
Входная звезда выполняет распознавание образов, т. е. она обучается
реагировать на определенный входной вектор и ни на какой
другой.
Это обучение реализуется, настраивая веса таким образом, чтобы они
соответствовали входному вектору. Выход входной звезды определяется как
взвешенная сумма ее входов, это описано в предыдущих разделах. С другой
точки зрения, выход можно рассматривать как свертку входного вектора с
весовым вектором или меру сходства нормализованных векторов.
Следовательно, нейрон должен реагировать наиболее сильно на входной
образ, которому был обучен.
Процесс обучения выражается следующим образом:
![w_i(t+1)=w_i(t)+\alpha[x_i-w_i(t)],](/sites/default/files/tex_cache/7e2d8c57c2c05eb18e3d89faef5b51a8.png)
где — вес входа
,
—
-й вход,
— нормирующий
коэффициент обучения, который имеет начальное значение 0,1 и постепенно
уменьшается в процессе обучения.
После завершения обучения предъявление входного вектора Х будет
активизировать обученный входной нейрон. Это можно рассматривать как
единый обучающий цикл, если установлен в 1, однако в этом
случае
исключается способность входной звезды к обобщению. Хорошо обученная
входная звезда будет реагировать не только на определенный единичный
вектор, но также и на незначительные изменения этого вектора. Это
достигается постепенной настройкой нейронных весов при предъявлении в
процессе обучения векторов, представляющих нормальные вариации
входного вектора. Веса настраиваются таким образом, чтобы усреднить
величины обучающих векторов, и нейроны получают способность
реагировать на любой вектор этого класса.
Обучение выходной звезды
В то время как входная звезда возбуждается всякий раз при появлении определенного входного вектора, выходная звезда имеет дополнительную функцию: она вырабатывает требуемый возбуждающий сигнал для других нейронов всякий раз, когда возбуждается.
Для того чтобы обучить нейрон выходной звезды, его веса настраиваются в соответствии с требуемым целевым вектором. Алгоритм обучения может быть представлен символически следующим образом:
![w_i(t+1)=w_i(t)+\beta[y_i-w_i(t)],](/sites/default/files/tex_cache/354d1e8f3fd534332ee5b378956b1c3e.png)
где представляет собой нормирующий коэффициент обучения,
который вначале приблизительно равен единице и постепенно уменьшается
до нуля в процессе обучения.
Как и для входной звезды, веса выходной звезды постепенно настраиваются над множеством векторов, представляющих собой обычные вариации идеального вектора. В этом случае выходной сигнал нейронов является статистической характеристикой обучающего набора и может в действительности сходиться в процессе обучения к идеальному вектору при предъявлении только искаженных версий вектора.