Сети встречного распространения

Нормальное функционирование

Слои Кохонена

В своей простейшей форме слой Кохонена функционирует в духе "победитель забирает все", т.е. для данного входного вектора один и только один нейрон Кохонена выдает на выходе логическую единицу, а все остальные выдают ноль. Нейроны Кохонена можно воспринимать как набор электрических лампочек, и для любого входного вектора "загорается" одна из них.

Ассоциированное с нейронами Кохонена множество весов связывает каждый нейрон с каждым входом. Например, на рис. 6.1 нейрон Кохонена имеет веса , составляющие весовой вектор Они соединяются через входной слой с входными сигналами , составляющими входной вектор Подобно нейронам большинства сетей, выход каждого нейрона Кохонена является просто суммой взвешенных входов. Это может быть выражено следующим образом:

где — это выход нейрона Кохонена , или, в векторной записи,

где — вектор выходов слоя Кохонена.

Нейрон Кохонена с максимальным значением является "победителем". Его выход равен единице, у остальных он равен нулю.

Слой Гроссберга

Слой Гроссберга функционирует в сходной манере. Его выход является взвешенной суммой выходов , , , слоя Кохонена, образующих вектор Вектор соединяющих весов, обозначенный через , состоит из весов Тогда выход NET каждого нейрона Гроссберга есть

где — выход -го нейрона Гроссберга, или, в векторной форме,

где — выходной вектор слоя Гроссберга, — выходной вектор слоя Кохонена, — матрица весов слоя Гроссберга.

Если слой Кохонена функционирует таким образом, что лишь у одного нейрона величина равна единице, а у остальных равна нулю, то всего один элемент вектора отличен от нуля и вычисления очень просты. Фактически каждый нейрон слоя Гроссберга лишь выдает величину веса, который связывает этот нейрон с единственным ненулевым нейроном Кохонена.

Обучение слоя Кохонена

Слой Кохонена классифицирует входные векторы в группы схожих. Это достигается с помощью такой подстройки весов слоя Кохонена, что близкие входные векторы активируют один и тот же нейрон данного слоя. Затем задачей слоя Гроссберга является получение требуемых выходов.

Обучение Кохонена является самообучением, протекающим без учителя. Поэтому трудно (и не нужно) предсказывать, какой именно нейрон Кохонена будет активироваться для заданного входного вектора. Необходимо лишь гарантированно добиться, чтобы в результате обучения разделялись несхожие входные векторы.