Участник:Василий Ломакин/Коэффициент корреляции Кенделла

Материал из MachineLearning.

(Различия между версиями)

Перейти к: навигация, поиск

Версия 11:09, 4 января 2010

Содержание

1 Определение
2 Вывод критерия Кенделла
3 Статистическая проверка наличия корреляции
4 Связь коэффициентов корреляции Кенделла и Пирсона
5 Связь коэффициентов корреляции Кенделла и Спирмена
6 История
7 Примечания
8 Литература
9 Ссылки

TODO:

Орфография, пунктуация
Рисунки
Определение корреляции
Ссылка на Лапача

^[1]

Коэффициент корреляции Кенделла — мера линейной связи между случайными величинами. Коэффициент является ранговым, то есть для оценки силы связи используются не численные значения, а соответствующие им ранги. Коэффициент инвариантен по отношению к любому монотонному преобразованию шкалы измерения.

Определение

Заданы две выборки $x = (x_1,\ldots,x_n),\; y = (y_1,\ldots,y_n)$ .

Коэффициент корреляции Кенделла вычисляется по формуле

$\tau=1-\frac{4}{n(n-1)}R$ ,

где $R = \sum_{i=1}^{n-1}\sum_{j=i+1}^n\left[ \left[ x_i<x_j \right] \neq \left[ y_i < y_j \right] \right]$ — количество инверсий, образованных величинами $y_i$ , расположенными в порядке возрастания соответствующих $x_i$ .

Коэффициент $\tau$ принимает значения из отрезка $[-1;\;1]$ . Равенство $\tau=1$ указывает на строгую прямую линейную зависимость, $\tau=-1$ на обратную.

Вывод критерия Кенделла

Будем говорить, что пары $(x_i,\; y_i)$ и $(x_j,\; y_j)$ согласованы, если $x_i\ <\ y_j$ и $x_i\ <\ y_j$ или $x_i\ >\ y_j$ и $x_i\ >\ y_j$ , то есть $sign(x_j-x_i)sign(y_j-y_i)=1$ . Пусть $S$ - число согласованных пар, $R$ - число несогласованных пар. Тогда, в предположении, что среди $x_i$ и среди $y_i$ нет совпадений, превышение согласованности над несогласованностью есть: $T = S - R = \sum_{i < j}sign(x_j-x_i)sign(y_j-y_i)$ .

Для измерения степени согласия Кенделл предложил коэффициент $\tau = \frac{T}{max{T}}$

Статистическая проверка наличия корреляции

Нулевая гипотеза $H_0$ : Выборки $x$ и $y$ не коррелируют.

Статистика критерия:

$\frac{\tau}{\sqrt{D_{\tau}}},$

где $D_{\tau}=\frac{2(2n+5)}{9n(n-1)}$ .

При $n\geq 10$ статистику критерия можно приблизить стандартным нормальным распределением: $\frac{\tau}{\sqrt{D_{\tau}}}\sim N(0,1)$ .

Критерий (при уровне значимости $\alpha$ ):

против альтернативы $H_1$ : наличие корреляции

если $|\tau| > \tau_{\alpha}=u_{\alpha}\cdot\sqrt{D_{\tau_{xy}}}$ , где $u_{\alpha}$ — $\alpha$ -квантиль стандартного нормального распределения.

Связь коэффициентов корреляции Кенделла и Пирсона

В случае выборок из нормального распределения коэффициент корреляции Кенделла $\tau$ может быть использован для оценки коэффициента корреляции Пирсона $r$ по формуле:

$r=sin{\frac{\pi\tau}{2}}$ .^[2]

Связь коэффициентов корреляции Кенделла и Спирмена

Выборкам $x$ и $y$ соответствуют последовательности рангов:

$R_x=(R_{x_1},\ldots,R_{x_n})$ , где $R_{x_i}$ — ранг $i$ -го объекта в вариационном ряду выборки $x$ ;

$R_y=(R_{y_1},\ldots,R_{y_n})$ , где $R_{y_i}$ — ранг $i$ -го объекта в вариационном ряду выборки $y$ .

Проведем операцию упорядочевания рангов.

Расположим ряд значений $x_i$ в порядке возрастания величины: $x_1\leq x_2\leq\cdots\leq x_n$ . Тогда последовательность рангов упорядоченной выборки $x$ будет представлять собой последовательность натуральных чисел $1,2,\cdots,n$ . Значения $y$ , соответствующие значениям $x$ , образуют в этом случае некоторую последовательность рангов $T=(T_1,\cdots,T_n)$ :

$(R_{x_i},\;R_{y_i})\rightarrow^{sort} (i,\;T_i),\; i=1,\cdots,n$ .

Коэффициент корреляции Кенделла $\tau$ и коэффициент корреляции Спирмена $\rho$ выражаются через ранги $T_i,\; i=1,\cdots,n$ следующим образом:

$\rho=1-\frac{12}{n^3-n}\sum_{i<j}{(j-i)[T_i>T_j]};$

$\tau=1-\frac{4}{n^2-1}\sum_{i<j}[T_i>T_j];$

Утверждение.^[3] Если выборки $x$ и $y$ не коррелируют (выполняется гипотеза $H_0$ ), то коэффициент корреляции между величинами $\rho$ и $\tau$ можно вычислить по формуле:

$corr(\rho,\;\tau)=\frac{2n+2}{\sqrt{4n^2+10n}}$ .

История

Критерий был введён в 1938 году известным британским статистиком Морисом Джорджем Кенделлом.

Примечания

↑ Лагутин М. Б. Наглядная математическая статистика. — 223 с.
↑ Кобзарь А. И. Прикладная математическая статистика. — 625 с.
↑ Лагутин М. Б. Наглядная математическая статистика. — 345-346 с.

Литература

Кобзарь А. И. Прикладная математическая статистика. — М.: Физматлит, 2006. — 816 с.
Лагутин М. Б. Наглядная математическая статистика. В двух томах. — М.: П-центр, 2003

Ссылки

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%A3%D1%87%D0%B0%D1%81%D1%82%D0%BD%D0%B8%D0%BA:%D0%92%D0%B0%D1%81%D0%B8%D0%BB%D0%B8%D0%B9_%D0%9B%D0%BE%D0%BC%D0%B0%D0%BA%D0%B8%D0%BD/%D0%9A%D0%BE%D1%8D%D1%84%D1%84%D0%B8%D1%86%D0%B8%D0%B5%D0%BD%D1%82_%D0%BA%D0%BE%D1%80%D1%80%D0%B5%D0%BB%D1%8F%D1%86%D0%B8%D0%B8_%D0%9A%D0%B5%D0%BD%D0%B4%D0%B5%D0%BB%D0%BB%D0%B0»

@@ Строка 1: / Строка 1: @@
 {{TOCright}}
-Корреляцию Кенделла также называют мерой взаимной неупорядоченности или рассогласования.
+TODO:
+# Орфография, пунктуация
+# Рисунки
+# Определение корреляции
+# Ссылка на Лапача
+<ref>Лагутин М. Б. Наглядная математическая статистика. — 223 с.</ref>
+'''Коэффициент корреляции Кенделла''' — мера линейной связи между случайными величинами. Коэффициент является [[Ранговая корреляция|ранговым]], то есть для оценки силы связи используются не численные значения, а соответствующие им ранги. Коэффициент инвариантен по отношению к любому монотонному преобразованию шкалы измерения.
 ==Определение==
-Заданы две выборки <tex>x = (x_1,\ldots,x_n),\;\; y = (y_1,\ldots,y_n)</tex>.
+Заданы две выборки <tex>x = (x_1,\ldots,x_n),\; y = (y_1,\ldots,y_n)</tex>.
-'''Коэффициент корреляции Кенделла''', равен
+'''Коэффициент корреляции Кенделла''' вычисляется по формуле
-:: <tex>\tau=1-\frac{4}{n(n-1)}\sum_{i=1}^{n-1}\sum_{j=i+1}^n\left[[x_i<x_j]\neq[y_i<y_j]\right]</tex>,
+:: <tex>\tau=1-\frac{4}{n(n-1)}R</tex>,
+:: где <tex>R = \sum_{i=1}^{n-1}\sum_{j=i+1}^n\left[ \left[ x_i<x_j \right] \neq \left[ y_i < y_j \right] \right]</tex> — количество инверсий, образованных величинами <tex>y_i</tex>, расположенными в порядке возрастания соответствующих <tex>x_i</tex>.
-где [логическое выражение]=1, если логическое выражение верно, иначе, 0, например,
+Коэффициент <tex>\tau</tex> принимает значения из отрезка <tex>[-1;\;1]</tex>. Равенство <tex>\tau=1</tex> указывает на строгую прямую линейную зависимость, <tex>\tau=-1</tex> на обратную.
-<tex>[x_i<x_j]=\left\{ \begin{array}{l} 1, x_i>x_j;\\     0, x_i \geq x_j.\\ \end{array} \right</tex>
-Коэффициент <tex>\tau</tex> принимает значения от -1 до 1. Равенство <tex>\tau=1</tex> указывает на строгую линейную корреляцию.
+==Вывод критерия Кенделла==
+Будем говорить, что пары <tex>(x_i,\; y_i)</tex> и <tex>(x_j,\; y_j)</tex> согласованы, если <tex>x_i\ <\ y_j</tex> и <tex>x_i\ <\ y_j</tex> или <tex>x_i\ >\ y_j</tex> и <tex>x_i\ >\ y_j</tex>, то есть <tex>sign(x_j-x_i)sign(y_j-y_i)=1</tex>. Пусть <tex>S</tex> - число согласованных пар, <tex>R</tex> - число несогласованных пар. Тогда, в предположении, что среди <tex>x_i</tex> и среди <tex>y_i</tex> нет совпадений, превышение согласованности над несогласованностью есть:
+<tex>T = S - R = \sum_{i < j}sign(x_j-x_i)sign(y_j-y_i)</tex>.
+Для измерения степени согласия Кенделл предложил коэффициент
+<tex>
+\tau = \frac{T}{max{T}}</tex>
 ==Статистическая проверка наличия корреляции==
-'''Гипотеза <tex>H_0</tex>:''' Выборки <tex>x</tex> и <tex>y</tex> не коррелируют.
+'''[[Нулевая гипотеза]]''' <tex>H_0</tex>: Выборки <tex>x</tex> и <tex>y</tex> не коррелируют.
 '''Статистика критерия:'''
@@ Строка 22: / Строка 37: @@
 где <tex>D_{\tau}=\frac{2(2n+5)}{9n(n-1)}</tex>.
-При <tex>n\geq 10</tex> статистику критерия можно приблизить нормальным распределением с параметрами (0,1):
+При <tex>n\geq 10</tex> статистику критерия можно приблизить стандартным нормальным распределением: <tex>\frac{\tau}{\sqrt{D_{\tau}}}\sim N(0,1)</tex>.
-::<tex>\frac{\tau}{\sqrt{D_{\tau}}}\sim N(0,1)</tex>
 '''Критерий''' (при [[уровень значимости|уровне значимости]] <tex>\alpha</tex>):
@@ Строка 29: / Строка 43: @@
 :: если <tex>|\tau| > \tau_{\alpha}=u_{\alpha}\cdot\sqrt{D_{\tau_{xy}}} </tex>, где <tex>u_{\alpha}</tex> — <tex>\alpha</tex>-квантиль стандартного нормального распределения.
-==Связь коэффициента корреляции Кенделла с [[коэффициент корреляции Пирсона|коэффициентом корреляции Пирсона]]==
+==Связь коэффициентов корреляции Кенделла и [[коэффициент корреляции Пирсона|Пирсона]]==
-В случае выборок из нормального распределения коэффициент корреляции Кенделла <tex>\tau</tex> может быть использован для оценки [[коэффициент корреляции Пирсона|коэффициента корреляции Пирсона]] <tex>r</tex> по формуле
+В случае выборок из нормального распределения коэффициент корреляции Кенделла <tex>\tau</tex> может быть использован для оценки [[коэффициент корреляции Пирсона|коэффициента корреляции Пирсона]] <tex>r</tex> по формуле:
-:: <tex>r=sin{\frac{\pi\tau}{2}}</tex>
+:: <tex>r=sin{\frac{\pi\tau}{2}}</tex>.<ref>Кобзарь А. И. Прикладная математическая статистика. — 625 с.</ref>
-==Связь коэффициента корреляции Кенделла с [[Коэффициент корреляции Спирмена|коэффициентом корреляциии Спирмена]]==
+==Связь коэффициентов корреляции Кенделла и [[Коэффициент корреляции Спирмена|Спирмена]]==
 Выборкам <tex>x</tex> и <tex>y</tex>  соответствуют последовательности рангов:
@@ Строка 42: / Строка 56: @@
 Проведем операцию упорядочевания рангов.
-Расположим ряд значений <tex>x_i</tex> в порядке возрастания величины: <tex>x_1\leq x_2\leq\cdots\leq x_n</tex>. Тогда последовательность рангов упорядоченной выборки <tex>x</tex> будет представлять собой последовательность натуральных чисел <tex>1,2,\cdots,n</tex>. Значения <tex>y</tex>, соответствующие значениям <tex>x</tex>, образуют в этом случае некоторую последовательность рангов <tex>T=(T_1,\cdots,T_n)</tex>.
+Расположим ряд значений <tex>x_i</tex> в порядке возрастания величины: <tex>x_1\leq x_2\leq\cdots\leq x_n</tex>. Тогда последовательность рангов упорядоченной выборки <tex>x</tex> будет представлять собой последовательность натуральных чисел <tex>1,2,\cdots,n</tex>. Значения <tex>y</tex>, соответствующие значениям <tex>x</tex>, образуют в этом случае некоторую последовательность рангов <tex>T=(T_1,\cdots,T_n)</tex>:
-::<tex>(R_{x_i},R_{y_i})\rightarrow^{sort} (i,T_i),\; i=1,\cdots,n</tex> (<tex>sort</tex> — операция упорядочевания рангов).
+::<tex>(R_{x_i},\;R_{y_i})\rightarrow^{sort} (i,\;T_i),\; i=1,\cdots,n</tex>.
 Коэффициент корреляции Кенделла <tex>\tau</tex> и [[коэффициент корреляции Спирмена]] <tex>\rho</tex> выражаются через ранги <tex>T_i,\; i=1,\cdots,n</tex> следующим образом:
-::<tex>\rho=1-\frac{12}{n^3-n}\sum_{i<j}{(j-i)[T_i>T_j]}</tex>
+::<tex>\rho=1-\frac{12}{n^3-n}\sum_{i<j}{(j-i)[T_i>T_j]};</tex>
-::<tex>\tau=1-\frac{4}{n^2-1}\sum_{i<j}[T_i>T_j]</tex>
+::<tex>\tau=1-\frac{4}{n^2-1}\sum_{i<j}[T_i>T_j];</tex>
-Коэффициент корреляции Спирмена учитывает насколько сильна неупорядоченность.
+'''Утверждение.'''<ref>Лагутин М. Б. Наглядная математическая статистика. — 345-346 с.</ref> Если  выборки <tex>x</tex> и <tex>y</tex> не коррелируют (выполняется гипотеза <tex>H_0</tex>), то коэффициент корреляции между величинами <tex>\rho</tex> и <tex>\tau</tex> можно вычислить по формуле:
+::<tex>corr(\rho,\;\tau)=\frac{2n+2}{\sqrt{4n^2+10n}}</tex>.
-'''Утверждение.''' Если  выборки <tex>x</tex> и <tex>y</tex> не коррелируют (выполняется гипотеза <tex>H_0</tex>), то коэффициент корреляции между величинами <tex>\rho</tex> и <tex>\tau</tex> можно вычислить по формуле:
+== История ==
-::<tex>corr(\rho,\tau)=\frac{2n+2}{\sqrt{4n^2+10n}}</tex>
+Критерий был введён в 1938 году известным британским статистиком Морисом Джорджем Кенделлом.
+== Примечания ==
+<references/>
 == Литература ==
@@ Строка 59: / Строка 77: @@
 # ''Лагутин М. Б.'' Наглядная математическая статистика. В двух томах. — М.: П-центр, 2003
-==См. также==
+==Ссылки==
 *[[Коэффициент корреляции Пирсона]]
 *[[Ранговая корреляция]]
 *[[Коэффициент корреляции Спирмена]]
+*[http://ru.wikipedia.org/wiki/Коэффициент_корреляции Коэффициент корреляции] (Википедия)
-==Ссылки==
-*[http://ru.wikipedia.org/wiki/Коэффициент_корреляции Коэффициент корреляции](Википедия)
 *[http://ru.wikipedia.org/wiki/Корреляционный_анализ Корреляционный анализ] (Википедия)