Кривая ошибок

Материал из MachineLearning.

(Различия между версиями)

Версия 16:04, 7 января 2010

Кривая ошибок или ROC-кривая – часто применяемый способ представления характеристик качества бинарного классификатора.

Содержание

1 Кривая ошибок в задаче классификации
2 TPR и FPR
3 Алгоритм построения RoC-кривой
4 Функционал качества
5 См. также
6 Ссылки

Кривая ошибок в задаче классификации

Рассмотрим задачу логистической регрессии в случае двух классов. Традиционно, один из этих классов будем называть классом «с положительными исходами», другой - «с отрицательными исходами» и обозначим множество классов через $Y=\{-1,+1\}$ . Рассмотрим линейный классификатор для указанной задачи: $a(x) = sign (f(x,w) - w_0)$ .

Параметр $w_0$ полагается равным $\frac{\lambda_{-1}}{\lambda_{+1}}$ , где $\lambda_y$ – штраф за ошибку на объекте класса $y$ , $y \in \{-1, +1\}$ . Эти параметры выбираются из эмперических соображений и зависят от задачи.

Нетрудно заметить, что в задаче существенны не сами параметры $\lambda_y$ , а их отношение: $\frac{\lambda_{-1}}{\lambda_{+1}}$ .

RoC-кривая является распространённым способом оценки качества алгоритма, вне зависимости от выбора цен ошибок.

TPR и FPR

Рассмотрим два следующих функционала:

1. False Positive Rate доля объектов выборки $X^l$ ошибочно отнесённых алгоритмом $a$ к классу {+1}:

$FPR(a,X^l)=\frac{\sum_{i=1}^l [a(x_i) = +1][y_i = -1]}{\sum_{i=1}^l [y_i = -1]}$

2. True Positive Rate доля объектов выборки $X^l$ правильно отнесённых алгоритмом $a$ к классу {+1}:

$TPR(a,X^l)=\frac{\sum_{i=1}^l [a(x_i) = +1][y_i = +1]}{\sum_{i=1}^l [y_i = +1]}$

Подробнее об этих функционалах можно прочесть здесь.

ROC-кривая показывает зависимость количества верно классифицированных положительных объектов из $X^l$ (по оси Y) от количества неверно классифицированных отрицательных объектов из $X^l$ (по оси X).

Рис.1. «Случайное гадание»

На рисунке 1 приведена RoC-кривая, соответствующая алгоритму «случайного гадания», когда классификация объекта происходит методом «подбрасывания монетки» с вероятностью исходов $\frac12$ .

Рис.2. Хороший случай

На рисунке 2 изображён общий случай. Визуально, чем выше лежит кривая, тем лучше характеристики качества алгоритма.

Алгоритм построения RoC-кривой

На основе обучающей выборки $X^l$ можно очень эффективно аппроксимировать RoC-кривую для заданного классификатора. Ниже приведён алгоритм, строящий эту зависимость.

Входные данные

Обучающая выборка $X^l$
$f(x_i,w), \ i=\overline{1,l}$ — вероятность того, что $x_i$ принадлежит классу {+1}.

Результат

$\{(FPR_i, TPR_i)\}_{i=0}^l$ — последовательность из $(l+1)$ точек на координатной плоскости из области $[0,1] \times [0,1]$ , аппроксимирующая RoC-кривую по обучающей выборке $X^l$ .

Описание алгоритма

1. Вычислим количество представителей классов {+1} и {-1} в обучающей выборке:
   ;
2. Упорядочим выборку  по убыванию значения ;
3. Начальная точка кривой — ;
4. Повторять для всех :
     Если , то сместиться вправо:
        ;
     иначе сместиться вверх:
        ;

Функционал качества

В качестве функционала качества, инвариантного относительно выбора цен ошибок, используют площадь под RoC-кривой. Эту величину также называют AUC (Area Under Curve). Чем больше значение AUC, тем «лучше» алгоритм.

См. также

Ссылки

Данная статья является непроверенным учебным заданием.

Студент: Участник:osa

Преподаватель: Участник:Константин Воронцов

Срок: 25 января 2010

До указанного срока статья не должна редактироваться другими участниками проекта MachineLearning.ru. По его окончании любой участник вправе исправить данную статью по своему усмотрению и удалить данное предупреждение, выводимое с помощью шаблона {{Задание}}.

См. также методические указания по использованию Ресурса MachineLearning.ru в учебном процессе.

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%9A%D1%80%D0%B8%D0%B2%D0%B0%D1%8F_%D0%BE%D1%88%D0%B8%D0%B1%D0%BE%D0%BA»

Категории: Линейные классификаторы | Машинное обучение | Классификация | Непроверенные учебные задания

@@ Строка 15: / Строка 15: @@
 Рассмотрим два следующих функционала:
-. False Positive Rate доля объектов выборки <tex>X^l</tex> '''ошибочно''' отнесённых алгоритмом <tex>a</tex> к классу {+1}:
+. False Positive Rate доля объектов [[выборка|выборки]] <tex>X^l</tex> '''ошибочно''' отнесённых алгоритмом <tex>a</tex> к классу {+1}:
 <tex>FPR(a,X^l)=\frac{\sum_{i=1}^l [a(x_i) = +1][y_i = -1]}{\sum_{i=1}^l [y_i = -1]}</tex>
-. True Positive Rate доля объектов выборки <tex>X^l</tex> '''правильно''' отнесённых алгоритмом <tex>a</tex> к классу {+1}:
+. True Positive Rate доля объектов [[выборка|выборки]] <tex>X^l</tex> '''правильно''' отнесённых алгоритмом <tex>a</tex> к классу {+1}:
 <tex>TPR(a,X^l)=\frac{\sum_{i=1}^l [a(x_i) = +1][y_i = +1]}{\sum_{i=1}^l [y_i = +1]}</tex>