Московский государственный университет имени М.В.Ломоносова
Опубликован: 30.04.2008 | Доступ: свободный | Студентов: 1474 / 171 | Оценка: 4.24 / 3.92 | Длительность: 14:56:00
Специальности: Математик
Лекция 9:

Контекстно-зависимая классификация

< Лекция 8 || Лекция 9: 12 || Лекция 10 >
Аннотация: В данной лекции основной акцент сделан на рассмотрение контекстно-зависимой классификации. Приведены примеры практической реализации, основные теоремы и определения

9.1. Постановка задачи

Рассмотренные ранее задачи предполагали, что нет зависимости между различными классами, т.е. имея вектор x из класса \Omega_i, мы могли получить следующий вектор из любого класса. Далее мы будем предполагать зависимость классов, т.е. классификация каждого нового вектора осуществляется в зависимости от классификации предыдущих векторов. Выбор класса, к которому следует отнести вектор, зависит от его собственного значения, значений других векторов, существующих отношений между различными классами.

Такие задачи возникают во многих приложениях: распознавание речи, обработка изображений и др.

Эта классификация называется контекстно-зависимой.

Отправной точкой является Байесовский классификатор. Но зависимость между различными классами требует более общей формулировки проблемы. Общая информация, которая присутствует в векторах, требует, чтобы классификация была выполнена с использованием всех векторов одновременно и также была организованна в той же последовательности, в которой получена в экспериментах. Поэтому мы будем называть вектор признаков наблюдением, выстроенным в последовательность x_1,x_2,\ldots,x_N из N наблюдений.

9.2. Байесовский классификатор

Пусть X=(x_1,x_2,\ldots,x_N) – последовательность N наблюдений и \omega_i,\; i=1,2,\ldots,M – классы, в которые эти вектора можно классифицировать. Пусть также \Omega_i=(\omega_{i_1},\omega_{i_2},\ldots,\omega_{i_N}) – одна из возможных последовательностей соответствия классов последовательности наблюдений, где i_k\in\{1,2,\ldots,M\}, k=1,2,\ldots,N. Общее число таких последовательностей классов \Omega_i есть M^N. Задача заключается в том, чтобы решить, к какой последовательности классов отнести последовательность наблюдений. Это эквивалентно отнесению x_1 к \omega_{i_1}, x_2 к \omega_{i_2} и т.д.

Подходом к решению проблемы является рассмотрение каждой конкретной последовательности X как расширенного вектора признаков на \Omega_i,\;i=1,2,\ldots,M^N как на возможных классах. В данном случае Байесовское правило

P(\Omega_i|X)>P(\Omega_j|X),\text{ при } i\neq j
эквивалентно
P(\Omega_i)p(X|\Omega_i)>P(\Omega_j)p(X|\Omega_j),\text{ при } i\neq j.

9.3. Модель Марковской цепи

Одна из наиболее используемых моделей, описывающих зависимость классов, является правило Марковской цепи. Если \omega_1,\omega_2,\ldots,\omega_N есть последовательность классов, то Марковская модель предполагает, что

P(\omega_{i_k}|\omega_{i_{k-1}},\omega_{i_{k-2}},\ldots,\omega_{i_1})=P(\omega_{i_k}|\omega_{i_{k-1}})

Тогда зависимость классов ограничивается только внутри двух последовательных классов. Такой класс моделей называется Марковской моделью первого порядка. Возможны обобщения на второй, третий и т.д. порядок.

Другими словами, даны наблюдения x_{k-1},x_{k-2},\ldots,x_1, принадлежащие классам \omega_{i_{k-1}},\omega_{i_{k-2}},\ldots,\omega_{i_1} соответственно. Вероятность того, что наблюдение x_k на шаге k принадлежит классу \omega_{i_k}, зависит только от того класса, к которому принадлежит наблюдение x_{i_{k-1}} на шаге k-1.

P(\Omega_i)=P(\omega_{i_1},\omega_{i_2},\ldots,\omega_{i_N})=
P(\omega_{i_N}|\omega_{i_{N-1}},\omega_{i_{N-2}},\ldots,\omega_{i_1})\cdot
P(\omega_{i_{N-1}}|\omega_{i_{N-2}},\omega_{i_{N-3}},\ldots,\omega_{i_1})\cdot\ldots\cdot P(\omega_{i_1})
или
P(\Omega_i)=P(\omega_{i_1},\omega_{i_2},\ldots,\omega_{i_N})=
P(\omega_{i_1})\cdot\prod_{k=2}^N P(\omega_{i_k}|\omega_{i_{k-1}}) ( 9.1)

Сделаем два общих предположения:

  1. в последовательности классов наблюдения статистически независимы;
  2. функция плотности вероятностей в одном классе не зависит от других классов.

Это означает, что зависимость существует только на последовательности, в которой классы встречаются, но внутри классов наблюдений "подчиняются" собственным правилам. Таким образом, получаем, что

P(X|\Omega_i)=\prod_{k=1}^N p(x_k|\omega_{i_k}) ( 9.2)

Комбинируя (9.1) и (9.2), получаем Байесовское правило в виде следующего утверждения.

Байесовское правило: для последовательности наблюдений векторов X=(x_1,x_2,\ldots,x_N) проводим их классификацию в соответствующие последовательности классов \Omega_i=(\omega_{i_1},\omega_{i_2},\ldots,\omega_{i_N}) так, чтобы величина

p(X|\Omega_i)\cdot P(\Omega_i)=P(\omega_{i_1})\cdot p(x_1|\omega_{i_1})\cdot\prod_{k=2}^N 
P(\omega_{i_k}|\omega_{i_{k-1}})\cdot p(x_k|\omega_{i_k}) ( 9.3)
была максимальной.

Поиск требует вычисления последнего выражения для каждого \Omega_i, i=1,2,\ldots,M^N, что, в свою очередь, требует O(NM^N) умножений, а это очень много. Но существуют пути экономии вычислений. Если в \Omega_i и \Omega_j отличаются только последние классы, т.е. \omega_{i_k}=\omega_{j_k}, при k=1,2,\ldots,N-1 и \omega_{i_N}\neq\omega_{j_N}, то большая часть вычислений дублируется.

< Лекция 8 || Лекция 9: 12 || Лекция 10 >
Sowa _
Sowa _
Россия
Александр Терешко
Александр Терешко
Россия, Сыктывкар