Сравнение алгоритмов классификации для кредитного скоринга (отчет)

Материал из MachineLearning.

(Различия между версиями)

SkiporKostya (Обсуждение | вклад)
(Новая: '''Введение в проект''' Задача кредитного скоринга возникает в банках и в других кредитных организация...)
К следующему изменению →

Версия 15:24, 8 марта 2010

Введение в проект

Задача кредитного скоринга возникает в банках и в других кредитных организациях при принятии решений о выдаче кредитов. Задача заключается в том, чтобы на основе некоторой информации о заемщике, в данном случае, заполняемая им анкета в банке, обоснованно принять решение — стоит ли ему выдавать кредит, и если да, то на каких условиях.

Описание проекта

Используемые в данном проекте реальные данные «German Credit Data», являются удобным инструментом тестирования различных алгоритмов классификации и их модификаций, а также сравнения их со стандартными алгоритмами.

Цель проекта

Разработка и сравнение алгоритмов классификации для кредитного скоринга.

Обоснование проекта

По полученным результатам можно сделать вывод о том, насколько лучше или хуже разрабатываемый алгоритм классифицирует данные, по сравнению со стандартными алгоритмами, а также насколько целесообразно его использовать.

Описание данных

Данные взяты из репозитория UCI: Statlog (German Credit Data) Data Set . В выборке представлено 1000 объектов. Объектами являются анкеты людей, желавших получить кредит в банке. Изначально анкеты содержали 20 пунктов, таких как состояние банковсого счета заемщика, информация о его кредитной истории, цель займа, величина займа, возраст заемщика, время с момента трудоустройства на текущее место работы и другие. Но так как некоторые из них не были числовыми, а многие алгоритмы (в том числе рассматриваемый в данной статье) работают только с числовыми признаками, то из 20 разнородных признаков было составлено 24 числовых. Ответы — «хорошим» или «плохим» заемщиком оказался человек, получивший кредит. По условию задачи, распознать «плохого» заемщика как «хорошего» в 5 раз хуже, чем «хорошего» как «плохого».

Критерии качества

Внутренним критерием качества служит среднеквадратичная ошибка $S$ или критерий максимума логарифма правдоподобия. В данном случае критерии эквивалентны. Внешними критериями являются взвешенная сумма ошибок классификации $Q$ для решающего дерева, а также информационный критерий Акаике (AIC) для алгоритма отбора признаков.

Требования к проекту

Необходимо сравнить рассматриваемые и стандартные алгоритмы классификации по параметрам: стоимость ошибок при обучении, стоимость ошибок на контроле. По данным требуется сделать выводы о работе алгоритмов и условиях в которых лучше применять каждый из них.

Используемые методы

В качестве алгоритма классификации используется бинарное решающее дерево с разделяющими гиперплоскостями в вершинах. Гиперплоскости настраиваются с помощью логистической регрессии, без отбора признаков, либо с помощью LALR (Least Angle Logistic Regression), с отбором признаков.

Постановка задачи

Имеется множество объектов $X$ и множество ответов $\{0,1\}$ . Задана обучающая выборка $D^m =\{(\mathbf{x}_i, y_i)\}_{i=1}^m$ , где $\mathbf{x}_i\in\mathbb{R}^n$ , $y_i\in\{0,1\}$ . В данном случае количество объектов $N=1000$ , количество объектов обучающей выборки $m=690$ и количество признаков $n=24$ . Задана также функция потерь $\mathcal{L}(a(\mathbf{x}),y))$ в виде матрицы

	$y=0$	$y=1$
$a(\mathbf{x})=0$	0	1
$a(\mathbf{x})=1$	5	0

Требуется построить алгоритм классификации $a:\;X\to\{0,1\}$ , который доставляет минимум функционалу качества

$Q(a,X)=\frac{1}{N}\sum_{i=1}^N \mathcal{L}(a(\mathbf{x}_i,X^\ell),y_i)$

Описание алгоритмов

Обзор литературы

Базовые предположения

Математическое описание

Варианты или модификации

Описание LALR

Предполагается, что столбцы матрицы объекты-признаки $X$ (в матрицу дополнительно включен константный признак) линейно независимы и являются свободными переменными, а зависимая переменная $\mathbf{y}\in Bernulli(\mathbf{p})$ . Принята модель логистической регрессии, согласно которой

$\mathbf{y}=\mathbf{p}+\varepsilon=\frac{1}{1+\exp(-X\mathbf{\beta})}+\varepsilon=\frac{1}{1+\exp(-\mathbf{\mu})}+\varepsilon,$

где $\mathbf{\beta}=\{\beta_0,\beta_1,\ldots,\beta_n\}$ — вектор весов признаков. Требуется найти для каждого шага LALR вектор весов $\mathbf{\beta}$ доставляющий минимум среднеквадратичной ошибки

$S(\mathbf{\beta})=||\mathbf{y}-\mathbf{p}||^2$

Обозначим множество индексов $\mathcal{I}=\{1,2,\ldots,m\}$ . Для некоторого подмножества $\mathcal{A}\subseteq\mathcal{I}$ , назовем его активным множеством, определим матрицу активных признаков

$X_{\mathcal{A}}=(\cdots s_j\cdot\mathbf{x}_j \cdots)_{j\in\mathcal{A}},$

где $s_j\pm1$ . Определим также матрицы разностей и сумм для некоторого $d\in\mathcal{A}^c$ ,

$M_{d-}=(\cdots (s_j\cdot\mathbf{x}_j-s_d\cdot\mathbf{x}_d) \cdots)_{j\in\mathcal{A}}$

$M_{d+}=(\cdots (s_j\cdot\mathbf{x}_j+s_d\cdot\mathbf{x}_d) \cdots)_{j\in\mathcal{A}}.$

Далее, обозначим

$A_{d\pm}=M_{d\pm}^T\mathbf{p}(1-\mathbf{p})X_{\mathcal{A}},$

$\mathbf{b}_{d\pm}=M_{d\pm}^T(\mathbf{y}-\mathbf{p}),$

здесь « $\pm$ » означает две разные матрицы, соответствующие «+» и «-».

Теперь полностью опишем алгоритм. Начальное приближение положим $\hat{\mathbf{\mu}}=0,\quad\mathbf{\hat{\beta}}=0$ . Пусть $\mathbf{\hat{\mu}}_{\mathcal{A}}$ текущее приближение функции регрессии. Вектор текущих корреляций имеет вид

$\mathbf{\hat{c}}=X'(\mathbf{y}-\mathbf{p}(\mathbf{\hat{\mu}}_{\mathcal{A}})).$

Положим

$s_j=sign\{\hat{c}_j\}\qquad\forall j\in\mathcal{I}.$

Новое приближение для оценки $\mathbf{\hat{\mu}}_{\mathcal{A}}$ получаем при добавлении некоторой линейной комбинации выбранных активных признаков

$\mathbf{\hat{\mu}}_{\mathcal{A}_+}=\mathbf{\hat{\mu}}_{\mathcal{A}}+X_{\mathcal{A}}\mathbf{\hat{\gamma}}$

где

$\hat{\mathbf{\gamma}}=A^{-1}_{d^*}\mathbf{b}_{d^*},\qquad(*)$

$d^*=\arg\min_{d+,d-}{}^{+}\{\mathbf{\hat{c}}^T_{\mathcal{A}}A^{-1}_{d-}\mathbf{b}_{d-},\mathbf{\hat{c}}^T_{\mathcal{A}}A^{-1}_{d+}\mathbf{b}_{d+}\},$

$d=\arg\min_{d\in\mathcal{A}^c}{}^{+}\{\mathbf{\hat{c}}^T_{\mathcal{A}}A^{-1}_{d-}\mathbf{b}_{d-},\mathbf{\hat{c}}^T_{\mathcal{A}}A^{-1}_{d+}\mathbf{b}_{d+}\};$

« $\min{}^{+}$ » означает, что минимум берется только из положительных значений. В случае когда $\mathcal{A}$ пусто, что соответствует первой итерации, $d$ находится из условия максимума абсолютной корреляции

$d=\arg\max_{d\in\mathcal{I}}\{|\hat{c}_j|\}.$

Таким образом, алгоритм определяет оптимальный признак $\mathbf{x}_d$ , обновляет вектор весов $\mathbf{\hat{\beta}}_{\mathcal{A}}=\mathbf{\hat{\beta}}_{\mathcal{A}}+\mathbf{s}_{\mathcal{A}}\mathbf{\hat{\gamma}}$ и добавляет новый активный индекс $\mathcal{A}_+=\mathcal{A}\cup\{d\}$ . В итоге, алгоритм сделает $m$ шагов. На последнем шаге, когда $\mathcal{A}=\mathcal{I}$ , веса настраиваются стандартным итерационным МНК с перевзвешиванием элементов (IRLS), как и в логистической регрессии.

Вышеприведенные формулы имеют следующую интерпретацию. На каждом шаге при добавлении нового признака решается задача минимизации среднеквадраничной ошибки, что в нашем случае, эквивалентно максимизации приращения логарифма правдоподобия

$\ell(\mathbf{p})=\sum_{i=1}^my_i\ln(p_i)+(1-y_i)\ln(1-p_i),$ при условии, что абсолютная корреляция нового вектора остатков $\mathbf{y}-\mathbf{p}(\hat{\mu}_{\mathcal{A}})$ на любой активный признак $\mathbf{x}_{j}|j\in\mathcal{A}$ больше абсолютной корреляции на любой неактивный признак $\mathbf{x}_{d}|d\in\mathcal{A}^c$ . Последующая линеаризация этих условий приводит к задаче линейного программирования:

$\begin{cases} \sum_{j\in\mathcal{A}}\hat{c}_j\gamma_j\to\min_{\mathbf{\gamma}} \\ \mathbf{A}_{d-}\mathbf{\gamma}\leq\mathbf{b}_{d-} \\ \mathbf{A}_{d+}\mathbf{\gamma}\leq\mathbf{b}_{d+} \\ \forall d\in\mathcal{A}^c \end{cases}$
решение которой можно выразить в виде $(*)$ .

Применение LALR

Результатом работы алгоритма LALR является последовательность весов признаков . На каждом шаге добавлялся один признак, тем самым увеличивалось на единицу число настраиваемых параметров $\{\mathbf{\beta}_1,\ldots,\mathbf{\beta}_n\}$ . Таким образом, получаем последовательность моделей с различным числом параметров. В данной работе, в качестве внешнего критерия выбора модели, использовался информационный критерий Акаике (AIC)
$AIC = 2k-2\ell(\mathbf{p}(\mathbf{\hat{\beta}}_k)),$
где $k$ — число параметров модели, в данном случае, число активных признаков, а $\ell$ — максимум логарифма правдоподобия. Лучшая модель соответствует минимальному значению критерия Акаике.

Анализ работы LALR на модельных данных

Одним из наиболее простых методов отбора признаков является итеративный алгоритм Forward Stagewise. На каждом шаге алгоритм выбирает признак $\mathbf{x}_j$ , имеющий наибольшую корреляцию с текущим вектором остатков $\mathbf{y}-\mathbf{p}(\mathbf{\hat{\mu}})$ и с достаточно малым по модулю шагом $\gamma$ смещает текущее приближение $\mathbf{\hat{\mu}}$ в направлении выбранного вектора $\mathbf{x}_j$ ,

$j=\arg\max_{j\in\mathcal{I}}|\hat{c}_j|$

$\hat{\mu}\rightarrow\hat{\mu}+\gamma\cdot sign(\hat{c}_j)\cdot\mathbf{x}_j.$

Чем меньше абсолютная величина шага $\gamma$ , тем точнее оценка параметров, но вместе с тем возрастает трудоемкость.

Для сравнения двух алгоритмов мы сгенерировали $m=1000$ объектов с 10 независимыми, нормально распределенными признаками $\mathbf{x}_i\sim\mathcal{N}_{10}(\mathbf{0},\mathbf{I})$ и вектором ответов $y_i\sim~Bern\big(\frac{1}{1+\exp(-\mathbf{x}_i^t\beta)}\big)$ , где $\beta\sim\mathcal{N}_{10}(0,1)$ .

Описание системы

Ссылка на файл system.docs
Ссылка на файлы системы

Отчет о вычислительных экспериментах

Визуальный анализ работы алгоритма

Анализ качества работы алгоритма

Анализ зависимости работы алгоритма от параметров

Отчет о полученных результатах

Список литературы

Данная статья является непроверенным учебным заданием.

Студент: Константин Скипор

Преподаватель: В.В. Стрижов

Срок: 15 декабря 2009

До указанного срока статья не должна редактироваться другими участниками проекта MachineLearning.ru. По его окончании любой участник вправе исправить данную статью по своему усмотрению и удалить данное предупреждение, выводимое с помощью шаблона {{Задание}}.

См. также методические указания по использованию Ресурса MachineLearning.ru в учебном процессе.

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%A1%D1%80%D0%B0%D0%B2%D0%BD%D0%B5%D0%BD%D0%B8%D0%B5_%D0%B0%D0%BB%D0%B3%D0%BE%D1%80%D0%B8%D1%82%D0%BC%D0%BE%D0%B2_%D0%BA%D0%BB%D0%B0%D1%81%D1%81%D0%B8%D1%84%D0%B8%D0%BA%D0%B0%D1%86%D0%B8%D0%B8_%D0%B4%D0%BB%D1%8F_%D0%BA%D1%80%D0%B5%D0%B4%D0%B8%D1%82%D0%BD%D0%BE%D0%B3%D0%BE_%D1%81%D0%BA%D0%BE%D1%80%D0%B8%D0%BD%D0%B3%D0%B0_%28%D0%BE%D1%82%D1%87%D0%B5%D1%82%29»

Категория: Непроверенные учебные задания