Московский государственный университет имени М.В.Ломоносова
Опубликован: 30.04.2008 | Доступ: свободный | Студентов: 1474 / 171 | Оценка: 4.24 / 3.92 | Длительность: 14:56:00
Специальности: Математик
Лекция 6:

Метод потенциальных функций

< Лекция 5 || Лекция 6: 123 || Лекция 7 >
Аннотация: В данной лекции основное внимание уделено методу потенциальных функций. Приводятся примеры его применения, а также основные теоремы и определения

Рассмотрим множество прецедентов. Пусть каждый из них имеет поле притяжения. Берем новый объект и смотрим, каким классом притягивается.

Пусть L=2число классов. Обозначим эти классы через K_1 и K_2 соответственно. Рассмотрим обучающую последовательность x_1,\ldots,x_{r_1},x_{r_1+1},\ldots,x_{r_2}. Без ограничения общности будем считать, что x_1,\ldots,x_{r_1}\in K_1 и x_{r_1+1},\ldots,x_{r_2}\in K_2.

Каждая точка образует в пространстве признаков X некоторое поле притяжения. Например, можно рассматривать каждую точку как единичный заряд. Поле описывается потенциалом, создаваемым системой зарядов во всем пространстве.

В пространстве задана потенциальная метрика: K(x,y) – потенциальная функция, x,y\in X такая, что

\begin{aligned}
& K(x,y)>0, \text{ при } x\neq y, \\
& K(x,y)=K(x,x+\mu(y-x))=\widetilde{K}(\mu),
\end{aligned}
где \widetilde{K}(\mu)монотонно убывающая функция и \widetilde{K}(0) – ее максимальное значение.

Пример. Пусть d(x,y)расстояние в R^2. Рассмотрим функцию K(x,y)=K(d(x,y)). Пусть \alphaпараметр функции. Рассмотрим два примера функций k(x,y):

\begin{aligned}
&K(x,y)=e^{-\alpha^2d^2(x,y)}\text{ рис. слева}, \\
&K(x,y)=\frac{1}{1+\alpha^2d^2(x,y)}\text{ рис. справа}
\end{aligned}


Пусть X и \overline{X} – прецеденты первого и второго класса соответственно, y – пробный образ. Тогда потенциалы, создаваемые в пространстве точками из классов X и \overline{X} будут иметь вид:

K_X(y)=\sum_{x\in X}K(x,y),\;K_{\overline{X}}(y)=\sum_{\overline{x}\in\overline{X}}K(\overline{x},y)
соответственно.

Тогда правило классификации можно записать следующим образом: Если K_X(y)>K_{\overline{X}}(y) то пробный образ y относится к классу X, иначе к классу \overline{X}, при равенстве выдавать ответ "не знаю" (отказ от распознавания).

Если рассмотреть дискриминантную функцию \Phi(x)=K_X(x)-K_{\overline{X}}(x), то задача сводится к поиску этой функции по обучающей последовательности.

Рассмотрим вариант метода потенциальных функций называется "наивным". Он имеет следующие недостатки. Если, например, в первом классе точек много больше, чем в остальных, то голоса первого класса подавят голоса других классов, то есть потенциал o больше потенциала x (рис. слева). Но даже, если множества соизмеримы, могут возникнуть проблемы другого характера, например, погружение одних точек в другие (рис. справа). Поэтому наивный метод подлежит усовершенствованию.


< Лекция 5 || Лекция 6: 123 || Лекция 7 >
Sowa _
Sowa _
Россия
Александр Терешко
Александр Терешко
Россия, Сыктывкар