SVM классификация

[mythteria]

Добрый день.
А не подскажете, как выполняется классификация с использованием svm для нескольких классов?

Comments

[hvostarik]

В SVM есть два подхода
1) переформулировать исходную мат задачу минимизации
2) строить мета классификатор на базе бинарных
Библиографию по 1) при себе нету, могу дома порыться и отослать. Но этот подход требует очень длительного и ресурсоемкого обучения, а полученные модели(я работал с текстовой категоризацией) работают не лутше полученных вторым методом. Поэтому, если вас интересует практика, а не теоретические разработки, рекомендую в эту сторону не копать.
2) из мне известных
2.1 OAA - one against all - это уже упоминалось
2.2 OAO - one against one - строим попарные классификаторы, далее приминяем "голосование"
2.3 ECOC - error correction codes, очень продвинутая вариация 2.2.
Реализации 2.2,2.3 точно есть в LibSVM(http://www.csie.ntu.edu.tw/~cjlin/libsvm/index.html) обратите внимание на tools(http://www.csie.ntu.edu.tw/~cjlin/libsvmtools) - среди них есть приятные возможности определять вероятность принадлежности классу.

Аторы LibSVM в своем сравнении подходов http://citeseer.ist.psu.edu/hsu01comparison.html пришли к выводу, что OAO в общем стабильней и лучше. На тот момент ECOC еще был не очень популярен.

О ECOC см. http://citeseer.ist.psu.edu/dietterich95solving.html - здесь описна общая идея подхода, если порыться в google scholar найдете много работ посвященных связке svm+ecoc

[hvostarik]

Если еще актуально.
Есть реализация multi-class classifier на базе svm_light: http://svmlight.joachims.org/svm_struct.html

[mythteria]

Еще актуально, но менее приоритетно, но все равно, Спасибо. Посмотрю.

[mythteria]

Большое спасибо за ссылки. Обзательно на них посмотрю.