Участник:Василий Ломакин/Коэффициент корреляции Кенделла
Материал из MachineLearning.
(1 промежуточная версия не показана) | |||
Строка 3: | Строка 3: | ||
<ref>Лагутин М. Б. Наглядная математическая статистика. — 223 с.</ref> | <ref>Лагутин М. Б. Наглядная математическая статистика. — 223 с.</ref> | ||
<ref>Кобзарь А. И. Прикладная математическая статистика. — 625 с.</ref> | <ref>Кобзарь А. И. Прикладная математическая статистика. — 625 с.</ref> | ||
+ | <ref>Лапач С. Н. Статистика в науке и бизнесе. — 156 с.</ref> | ||
+ | |||
'''Коэффициент корреляции Кенделла''' (Kendall tau rank correlation coefficient) — мера линейной связи между случайными величинами. Корреляция Кенделла является [[Ранговая корреляция|ранговой]], то есть для оценки силы связи используются не численные значения, а соответствующие им ранги. Коэффициент инвариантен по отношению к любому монотонному преобразованию шкалы измерения. | '''Коэффициент корреляции Кенделла''' (Kendall tau rank correlation coefficient) — мера линейной связи между случайными величинами. Корреляция Кенделла является [[Ранговая корреляция|ранговой]], то есть для оценки силы связи используются не численные значения, а соответствующие им ранги. Коэффициент инвариантен по отношению к любому монотонному преобразованию шкалы измерения. | ||
Строка 16: | Строка 18: | ||
Коэффициент <tex>\tau</tex> принимает значения из отрезка <tex>[-1;\;1]</tex>. Равенство <tex>\tau=1</tex> указывает на строгую прямую линейную зависимость, <tex>\tau=-1</tex> на обратную. | Коэффициент <tex>\tau</tex> принимает значения из отрезка <tex>[-1;\;1]</tex>. Равенство <tex>\tau=1</tex> указывает на строгую прямую линейную зависимость, <tex>\tau=-1</tex> на обратную. | ||
+ | |||
+ | '''Случай совпадающих наблюдений:''' | ||
+ | |||
+ | При наличии [[Вариационный ряд|связок]] коэффициент корреляции Кенделла следует вычислять следующим образом: | ||
+ | |||
+ | :<tex>\tau = \frac{2T}{sqrt{n(n-1)-U_x}sqrt{n(n-1)-U_y}},\ U_x=\sum_{i=1}^{q}u^x_i((u^x_i)^2-1),\ U_y=\sum_{i=1}^{f}u^y_i((u^y_i)^2-1),</tex><ref>Кобзарь А. И. Прикладная математическая статистика. — 625 с.</ref> | ||
+ | :где <tex>q</tex> и <tex>f</tex> — количество связок в выборках <tex>x</tex> и <tex>y</tex>, <tex>u^x_1, \ldots, u^x_q</tex>, <tex>u^y_1, \ldots, u^y_f</tex> — их размеры. Для элементов связок вычисляется [[Вариационный ряд|средний ранг]]. | ||
'''Обоснование критерия Кенделла:''' | '''Обоснование критерия Кенделла:''' | ||
Строка 48: | Строка 57: | ||
Аппроксимация удовлетворительно работает, начиная с <tex>n\geq 10</tex>.<ref>Кобзарь А. И. Прикладная математическая статистика. — 625 с.</ref> | Аппроксимация удовлетворительно работает, начиная с <tex>n\geq 10</tex>.<ref>Кобзарь А. И. Прикладная математическая статистика. — 625 с.</ref> | ||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
==Примеры== | ==Примеры== | ||
Строка 86: | Строка 88: | ||
[[Изображение:Kendall Spearman 1.4.png|left|frame|Корреляции Кенделла и Спирмена. Синусоида с переменной амплитудой.]]<br clear="both" /> | [[Изображение:Kendall Spearman 1.4.png|left|frame|Корреляции Кенделла и Спирмена. Синусоида с переменной амплитудой.]]<br clear="both" /> | ||
- | По мере смены линейной зависимости нелинейной | + | По мере смены линейной зависимости нелинейной значения коэффициентов корреляции падают. |
==Связь коэффициентов корреляции Кенделла и [[коэффициент корреляции Пирсона|Пирсона]]== | ==Связь коэффициентов корреляции Кенделла и [[коэффициент корреляции Пирсона|Пирсона]]== |
Текущая версия
|
Коэффициент корреляции Кенделла (Kendall tau rank correlation coefficient) — мера линейной связи между случайными величинами. Корреляция Кенделла является ранговой, то есть для оценки силы связи используются не численные значения, а соответствующие им ранги. Коэффициент инвариантен по отношению к любому монотонному преобразованию шкалы измерения.
Описание
Заданы две выборки .
Вычисление корреляции Кенделла:
Коэффициент корреляции Кенделла вычисляется по формуле:
, где
— количество инверсий, образованных величинами
, расположенными в порядке возрастания соответствующих
.
Коэффициент принимает значения из отрезка
. Равенство
указывает на строгую прямую линейную зависимость,
на обратную.
Случай совпадающих наблюдений:
При наличии связок коэффициент корреляции Кенделла следует вычислять следующим образом:
[4]
- где
и
— количество связок в выборках
и
,
,
— их размеры. Для элементов связок вычисляется средний ранг.
Обоснование критерия Кенделла:
Будем говорить, что пары и
согласованы, если
и
или
и
, то есть
. Пусть
- число согласованных пар,
- число несогласованных пар. Тогда, в предположении, что среди
и среди
нет совпадений, превышение согласованности над несогласованностью есть:
.
Для измерения степени согласия Кенделл предложил следующий коэффициент:
.
Таким образом, коэффициент (линейно связанный с
) можно считать мерой неупорядоченности второй последовательности относительно первой.[5]
Статистическая проверка наличия корреляции
Нулевая гипотеза : Выборки
и
не коррелируют.
Статистика критерия:
Асимптотический критерий (при уровне значимости ):
Рассмотрим центрированную и нормированную статистику Кенделла:
, где
.
Нулевая гипотеза отвергается (против альтернативы - наличие корреляции), если:
-
, где
есть
-квантиль стандартного нормального распределения.
Аппроксимация удовлетворительно работает, начиная с .[6]
Примеры
Ниже приведены примеры вычисления корреляций Кенделла и Спирмена. Значения коэффициентов указаны над каждым изображением в виде , где
- корреляция Кенделла,
- Спирмена. Заметно, что в большинстве случаев
. Объяснение этого эффекта приводится ниже.
Направление линейной зависимости
Коэффициенты корреляции реагируют на изменение направления и зашумлённость линейной зависимости между переменными.
Наклон линейного тренда
Коэффициенты корреляции реагируют на изменение направления, но не реагируют на изменение наклона тренда. На первом, четвёртом и седьмом рисунках дисперсия одной из переменных близка к нулю, поэтому не удаётся зафиксировать факт линейной зависимости.
Нелинейная зависимость
Корреляции Кенделла и Спирмена не отражают меры нелинейной зависимости между переменными.
Линейная и нелинейная зависимости
На каждой из приведённых ниже иллюстраций осуществляется переход от линейной зависимости к нелинейной. Коэффициенты корреляции Кенделла и Спирмена реагируют на это одинаковым образом.
По мере смены линейной зависимости нелинейной значения коэффициентов корреляции падают.
Связь коэффициентов корреляции Кенделла и Пирсона
В случае выборок из нормального распределения коэффициент корреляции Кенделла может быть использован для оценки коэффициента корреляции Пирсона
по формуле:
-
.[7]
Связь коэффициентов корреляции Кенделла и Спирмена
Выборкам и
соответствуют последовательности рангов:
, где
— ранг
-го объекта в вариационном ряду выборки
;
, где
— ранг
-го объекта в вариационном ряду выборки
.
Проведем операцию упорядочивания рангов.
Расположим ряд значений в порядке возрастания величины:
. Тогда последовательность рангов упорядоченной выборки
будет представлять собой последовательность натуральных чисел
. Значения
, соответствующие значениям
, образуют в этом случае некоторую последовательность рангов
:
.
Коэффициент корреляции Кенделла и коэффициент корреляции Спирмена
выражаются через ранги
следующим образом:
Заметно, что в случае инверсиям придаются дополнительные веса
, таким образом
сильнее реагирует на несогласие ранжировок, чем
. Этот эффект проявляется в приведённых выше примерах: в большинстве из них
.
Утверждение.[8] Если выборки и
не коррелируют (выполняется гипотеза
), то величины
и
сильно закоррелированы. Коэффициент корреляции между ними можно вычислить по формуле:
.
История
Критерий был введён в 1938 году известным британским статистиком Морисом Джорджем Кенделлом.
Примечания
- ↑ Лагутин М. Б. Наглядная математическая статистика. — 223 с.
- ↑ Кобзарь А. И. Прикладная математическая статистика. — 625 с.
- ↑ Лапач С. Н. Статистика в науке и бизнесе. — 156 с.
- ↑ Кобзарь А. И. Прикладная математическая статистика. — 625 с.
- ↑ Лагутин М. Б. Наглядная математическая статистика. — 345 с.
- ↑ Кобзарь А. И. Прикладная математическая статистика. — 625 с.
- ↑ Кобзарь А. И. Прикладная математическая статистика. — 625 с.
- ↑ Лагутин М. Б. Наглядная математическая статистика. — 345-346 с.
Литература
- Кобзарь А. И. Прикладная математическая статистика. — М.: Физматлит, 2006. — 624-626 с.
- Лагутин М. Б. Наглядная математическая статистика. В двух томах. — М.: П-центр, 2003. — 345-346 с.
- Лапач С. Н., Чубенко А. В., Бабич П. Н. Статистика в науке и бизнесе. — Киев: Морион, 2002. — 187-189 с.
Ссылки
- Ранговая корреляция
- Коэффициент корреляции Спирмена — другой способ расчёта ранговой корреляции.
- Коэффициент корреляции Пирсона
- Коэффициент корреляции — статья в русскоязычной Википедии.
- Kendall tau rank correlation coefficient — статья в англоязычной Википедии.