Коэффициент корреляции Пирсона

Материал из MachineLearning.

Содержание

1 Определение
2 Статистическая проверка наличия корреляции
3 Слабые стороны
4 Литература
5 См. также
6 Ссылки

Определение

Коэффициент корреляции Пирсона характеризует существование линейной зависимости между двумя величинами.

Пусть даны две выборки $x^m=\left( x_1, \cdots ,x_m \right), \; y^m=\left( y_1, \cdots ,y_m \right);$ коэффициент корреляции Пирсона рассчитывается по формуле:

$r_{xy} = \frac {\sum_{i=1}^{m} \left( x_i-\bar{x} \right)\left( y_i-\bar{y} \right)}{\sqrt{\sum_{i=1}^{m} \left( x_i-\bar{x} \right)^2 \sum_{i=1}^{m} \left( y_i-\bar{y} \right)^2}} = \frac {cov(x,y)}{\sqrt{s_x^2 s_y^2}},$

где $\bar{x}, \bar{y}$ – выборочные средние $x^m$ и $y^m$ , $s_x^2, s_y^2$ – выборочные дисперсии, $r_{xy} \in \left[-1,1\right]$ .

Коэффициент корреляции Пирсона называют также теснотой линейной связи:

$\left| r_{xy} \right| =1 \;\Rightarrow\; x, y$ линейно зависимы,
$r_{xy}=0 \;\Rightarrow\; x, y$ линейно независимы.

Статистическая проверка наличия корреляции

Гипотеза: $H_0$ : отсутствует линейная связь между выборками $x$ и $y$ ( $r_{xy} = 0$ ).

Статистика критерия:

$T = \frac{r_{xy}\sqrt{n-2}}{sqrt{1-r^2_{xy}}} \sim t_{n-2}$ – распределение Стьюдента с $n-2$ степенями свободы.

Критерий:

$T \in [t_\alpha,t_{1-\alpha}]$ , где $t_\alpha$ есть α-квантиль распределения Стьюдента.

Слабые стороны

Четыре различных набора данных, коэффициент корреляции на которых равен 0.81

Неустойчивость к выбросам.

С помощью коэффициента корреляции Пирсона можно определить силу линейной зависимости между величинами, другие виды взаимосвязей выявляются методами регрессионного анализа.

Необходимо понимать различие понятий "независимость" и "некоррелированность". Из первого следует второе, но не наоборот.

Для того, чтобы выяснить отношение между двумя переменными, часто необходимо избавиться от влияния третьей переменной. Рассмотрим пример 3-х переменных $x, y, z.$ Исключим влияние переменной $z$ :