Россия, Москва |
Самоорганизация (самообучение) нейронных сетей
В простейшем случае пространство ядер совпадает с , а - положительно определенная квадратичная форма от , например, квадрат евклидова расстояния. Тогда ядро , минимизирущее , есть центр масс класса :
где - число элементов в
Пусть векторы пространства нормированы. Тогда
( 2) |
Так как , то с учетом (2) упрощается решающее правило, разделяющее классы:
поскольку минимум достигается при максимуме Такое решающее правило реализуется с помощью сумматоров, вычисляющих , и интерпретатора, выбирающего сумматор с максимальным выходным сигналом. Номер этого сумматора и есть номер класса, к которому относится
Задача поиска ядра для класса превращается в поиск вектора , максимизирующего
Этот максимум достигается в точке
В тех простейших случаях, когда ядро класса точно определяется как среднее арифметическое (или нормированное среднее арифметическое) элементов класса, а решающее правило основано на сравнении выходных сигналов линейных адаптивных сумматоров, нейронную сеть, реализующую метод динамических ядер, называют сетью Кохонена. В определение ядра для сетей Кохонена входят суммы Это позволит накапливать новые динамические ядра, обрабатывая по одному примеру и пересчитывая после получения в нового примера.
Если число классов заранее не определено, то полезен критерий слияния классов: классы и сливаются, если расстояние между их ядрами меньше, чем среднее расстояние от элемента класса до ядра в одном из них:
где - число элементов в Использовать критерий слияния классов можно так: сначала принимаем гипотезу о достаточном числе классов, строим их, минимизируя , затем некоторые объединяем, повторяем минимизацию с новым числом классов и т.д.