Критерий Стьюдента
Материал из MachineLearning.
(дополнение) |
|||
Строка 1: | Строка 1: | ||
{{TOCright}} | {{TOCright}} | ||
- | '''t-критерий Стьюдента''' — общее название для [[статистический тест|статистических тестов]], в которых статистика критерия имеет [[распределение Стьюдента]]. Наиболее часто t-критерии применяются для проверки равенства средних значений в двух | + | '''t-критерий Стьюдента''' — общее название для [[статистический тест|статистических тестов]], в которых статистика критерия имеет [[распределение Стьюдента]]. Наиболее часто t-критерии применяются для проверки равенства средних значений в двух [[выборка]]х. |
- | Все разновидности критерия Стьюдента являются параметрическими и основаны на дополнительном предположении о нормальности выборки данных. Поэтому перед применением критерия Стьюдента рекомендуется выполнить [[Критерии нормальности|проверку нормальности]]. | + | Все разновидности критерия Стьюдента являются параметрическими и основаны на дополнительном предположении о нормальности выборки данных. Поэтому перед применением критерия Стьюдента рекомендуется выполнить [[Критерии нормальности|проверку нормальности]]. Если гипотеза нормальности отвергается, можно проверить другие распределения, или использовать[[:Категория:Непараметрические статистические тесты|непараметрические статистические тесты]]. |
== Сравнение выборочного среднего с заданным значением == | == Сравнение выборочного среднего с заданным значением == | ||
Строка 76: | Строка 76: | ||
имеет [[распределение Стьюдента]] с <tex>m+n-2</tex> степенями свободы, | имеет [[распределение Стьюдента]] с <tex>m+n-2</tex> степенями свободы, | ||
где | где | ||
- | ::<tex>\displaystyle s_x^2 = \frac1{m-1} \sum_{i=1}^m \left( x_i - \bar x \right)^2,\;\; s_y^2 = \frac1{n-1} \sum_{i=1}^n \left( y_i - \bar y \right)^2</tex> — выборочные дисперсии | + | ::<tex>\displaystyle s^2 = \frac{(m-1)s_x^2+(n-1)s_y^2}{m+n-2},\;\; s_x^2 = \frac1{m-1} \sum_{i=1}^m \left( x_i - \bar x \right)^2,\;\; s_y^2 = \frac1{n-1} \sum_{i=1}^n \left( y_i - \bar y \right)^2 </tex> — выборочные дисперсии; |
- | + | ||
::<tex>\displaystyle \bar x = \frac1m \sum_{i=1}^m x_i,\;\; \bar y = \frac1n \sum_{i=1}^n y_i</tex> — выборочные средние. | ::<tex>\displaystyle \bar x = \frac1m \sum_{i=1}^m x_i,\;\; \bar y = \frac1n \sum_{i=1}^n y_i</tex> — выборочные средние. | ||
Строка 94: | Строка 93: | ||
== Сравнение двух выборочных средних при неизвестных неравных дисперсиях == | == Сравнение двух выборочных средних при неизвестных неравных дисперсиях == | ||
- | Задача сравнения средних двух нормально распределённых выборок при неизвестных и неравных дисперсиях известна как проблема Беренса-Фишера. Точного решения этой задачи до настоящего времени нет. На практике используются различные приближения. | + | Задача сравнения средних двух нормально распределённых выборок при неизвестных и неравных дисперсиях известна как проблема Беренса-Фишера. |
+ | Точного решения этой задачи до настоящего времени нет. | ||
+ | На практике используются различные приближения. | ||
Заданы две выборки <tex>x^m = (x_1,\ldots,x_m),\; x_i \in \mathbb{R};\;\; y^n = (y_1,\ldots,y_n),\; y_i \in \mathbb{R}</tex>. | Заданы две выборки <tex>x^m = (x_1,\ldots,x_m),\; x_i \in \mathbb{R};\;\; y^n = (y_1,\ldots,y_n),\; y_i \in \mathbb{R}</tex>. | ||
Строка 105: | Строка 106: | ||
::<tex>t = \frac{\bar x - \bar y}{s}</tex> | ::<tex>t = \frac{\bar x - \bar y}{s}</tex> | ||
где | где | ||
- | ::<tex>\displaystyle s_x^2 = \sum_{i=1}^m \left( x_i - \bar x \right)^2,\;\; s_y^2 = \frac1{n-1} \sum_{i=1}^n \left( y_i - \bar y \right)^2</tex> — выборочные дисперсии | + | ::<tex>\displaystyle s^2 = \frac1m{s_x^2} + \frac1n{s_y^2},\;\; s_x^2 = \frac1{m-1}\sum_{i=1}^m \left( x_i - \bar x \right)^2,\;\; s_y^2 = \frac1{n-1} \sum_{i=1}^n \left( y_i - \bar y \right)^2 </tex> — выборочные дисперсии; |
- | + | ||
::<tex>\displaystyle \bar x = \frac1m \sum_{i=1}^m x_i,\;\; \bar y = \frac1n \sum_{i=1}^n y_i</tex> — выборочные средние. | ::<tex>\displaystyle \bar x = \frac1m \sum_{i=1}^m x_i,\;\; \bar y = \frac1n \sum_{i=1}^n y_i</tex> — выборочные средние. | ||
Строка 119: | Строка 119: | ||
* против альтернативы <tex>H''_1:\; \bar x > \bar y</tex> | * против альтернативы <tex>H''_1:\; \bar x > \bar y</tex> | ||
::если <tex> t > t'_{1-\alpha} </tex>, то нулевая гипотеза отвергается; | ::если <tex> t > t'_{1-\alpha} </tex>, то нулевая гипотеза отвергается; | ||
- | где | + | где квантили <tex> t'_{\alpha} </tex> определяются по-разному в различных приближениях: |
- | ::<tex> t'_{\alpha} = \frac{\nu_x t_{\alpha}(m-1) + \nu_y t_{\alpha}(n-1)}{\nu_x+\nu_y},\; \nu_x=\frac{s_x^2}m,\; \nu_y=\frac{s_y^2}n </tex> | + | :* Критерий Кохрена-Кокса: |
- | + | ::<tex> t'_{\alpha} = \frac{\nu_x t_{\alpha}(m-1) + \nu_y t_{\alpha}(n-1)}{\nu_x+\nu_y},\; \nu_x=\frac{s_x^2}m,\; \nu_y=\frac{s_y^2}n </tex>, где <tex> t_{\alpha}(f) </tex> есть <tex>\alpha</tex>-[[квантиль]] распределения Стьюдента с <tex>f</tex> степенями свободы; | |
+ | :* Критерий Сатервайта: | ||
+ | ::<tex> t'_{\alpha}</tex> есть <tex>\alpha</tex>-[[квантиль]] распределения Стьюдента с числом степеней свободы <tex>f = s^4\left( \frac1{1-m}\left(\frac{s_x^2}m\right)^2 + \frac1{1-n}\left(\frac{s_y^2}n\right)^2 \right)^{-1}.</tex> | ||
+ | :* Критерий Крамера-Уэлча: | ||
+ | ::<tex> t'_{\alpha}</tex> есть <tex>\alpha</tex>-[[квантиль]] распределения Стьюдента с числом степеней свободы <tex>f = s^4\left( \frac1{1-m}\left(\frac{s_x^2}m\right)^2 + \frac1{1-n}\left(\frac{s_y^2}n\right)^2 \right)^{-1} - 2.</tex> | ||
== Сравнение двух выборочных средних в связанных выборках == | == Сравнение двух выборочных средних в связанных выборках == | ||
+ | Заданы две выборки одинаковой длины <tex>x^m = (x_1,\ldots,x_m),\; x_i \in \mathbb{R};\;\; y^m = (y_1,\ldots,y_m),\; y_i \in \mathbb{R}</tex>. | ||
+ | |||
+ | '''Дополнительные предположения:''' | ||
+ | * обе выборки нормальны; | ||
+ | * выборки связны, то есть элементы <tex>x_i,\: y_i</tex> соответствуют одному и тому же объекту, но измерения сделаны в разные моменты (например, до и после обработки). | ||
+ | |||
+ | Сравнение выборочных средних в связанных выборках ничем не отличается от сравнения среднего разности <tex>d_i = x_i - y_i</tex> с нулём. | ||
+ | |||
== История == | == История == | ||
Строка 138: | Строка 150: | ||
* [http://ru.wikipedia.org/wiki/%D0%9A%D1%80%D0%B8%D1%82%D0%B5%D1%80%D0%B8%D0%B9_%D0%A1%D1%82%D1%8C%D1%8E%D0%B4%D0%B5%D0%BD%D1%82%D0%B0 t-критерий Стьюдента] — статья в русской Википедии. | * [http://ru.wikipedia.org/wiki/%D0%9A%D1%80%D0%B8%D1%82%D0%B5%D1%80%D0%B8%D0%B9_%D0%A1%D1%82%D1%8C%D1%8E%D0%B4%D0%B5%D0%BD%D1%82%D0%B0 t-критерий Стьюдента] — статья в русской Википедии. | ||
- | |||
[[Категория:Статистические тесты]] | [[Категория:Статистические тесты]] | ||
[[Категория:Параметрические статистические тесты]] | [[Категория:Параметрические статистические тесты]] | ||
[[Категория:Популярные и обзорные статьи]] | [[Категория:Популярные и обзорные статьи]] |
Версия 18:49, 12 августа 2008
t-критерий Стьюдента — общее название для статистических тестов, в которых статистика критерия имеет распределение Стьюдента. Наиболее часто t-критерии применяются для проверки равенства средних значений в двух выборках.
Все разновидности критерия Стьюдента являются параметрическими и основаны на дополнительном предположении о нормальности выборки данных. Поэтому перед применением критерия Стьюдента рекомендуется выполнить проверку нормальности. Если гипотеза нормальности отвергается, можно проверить другие распределения, или использоватьнепараметрические статистические тесты.
Сравнение выборочного среднего с заданным значением
Задана выборка .
Дополнительное предположение: выборка нормальна.
Нулевая гипотеза (выборочное среднее равно заданному числу ).
Статистика критерия:
имеет распределение Стьюдента с степенями свободы, где
- — выборочное среднее,
- — выборочная дисперсия.
Критерий (при уровне значимости ):
- против альтернативы
- если , то нулевая гипотеза отвергается;
- против альтернативы
- если , то нулевая гипотеза отвергается;
- против альтернативы
- если , то нулевая гипотеза отвергается;
где есть -квантиль распределения Стьюдента с степенями свободы.
Сравнение двух выборочных средних при известных дисперсиях
Заданы две выборки .
Дополнительные предположения:
- обе выборки нормальны;
- значения дисперсий известны априори; это означает, что дисперсии были оценены заранее не по этим выборкам, а исходя из какой-то другой информации; случай «неизвестных дисперсий», когда такого источника информации нет и дисперсии приходится оценивать по самим выборкам, описан ниже.
Нулевая гипотеза (средние в двух выборках равны).
Статистика критерия:
имеет стандартное нормальное распределение , где
- — выборочные средние.
Критерий (при уровне значимости ):
- против альтернативы
- если , то нулевая гипотеза отвергается;
- против альтернативы
- если , то нулевая гипотеза отвергается;
- против альтернативы
- если , то нулевая гипотеза отвергается;
где есть -квантиль стандартного нормального распределения.
Сравнение двух выборочных средних при неизвестных равных дисперсиях
Заданы две выборки .
Дополнительные предположения:
- обе выборки нормальны;
- значения дисперсий равны: , но априори не известны.
Нулевая гипотеза (средние в двух выборках равны).
Статистика критерия:
имеет распределение Стьюдента с степенями свободы, где
- — выборочные дисперсии;
- — выборочные средние.
Критерий (при уровне значимости ):
- против альтернативы
- если , то нулевая гипотеза отвергается;
- против альтернативы
- если , то нулевая гипотеза отвергается;
- против альтернативы
- если , то нулевая гипотеза отвергается;
где есть -квантиль распределения Стьюдента с степенями свободы.
Сравнение двух выборочных средних при неизвестных неравных дисперсиях
Задача сравнения средних двух нормально распределённых выборок при неизвестных и неравных дисперсиях известна как проблема Беренса-Фишера. Точного решения этой задачи до настоящего времени нет. На практике используются различные приближения.
Заданы две выборки .
Дополнительное предположение: обе выборки нормальны.
Нулевая гипотеза (средние в двух выборках равны).
Статистика критерия:
где
- — выборочные дисперсии;
- — выборочные средние.
Критерий (при уровне значимости ):
- против альтернативы
- если , то нулевая гипотеза отвергается;
- против альтернативы
- если , то нулевая гипотеза отвергается;
- против альтернативы
- если , то нулевая гипотеза отвергается;
где квантили определяются по-разному в различных приближениях:
- Критерий Кохрена-Кокса:
- , где есть -квантиль распределения Стьюдента с степенями свободы;
- Критерий Сатервайта:
- есть -квантиль распределения Стьюдента с числом степеней свободы
- Критерий Крамера-Уэлча:
- есть -квантиль распределения Стьюдента с числом степеней свободы
Сравнение двух выборочных средних в связанных выборках
Заданы две выборки одинаковой длины .
Дополнительные предположения:
- обе выборки нормальны;
- выборки связны, то есть элементы соответствуют одному и тому же объекту, но измерения сделаны в разные моменты (например, до и после обработки).
Сравнение выборочных средних в связанных выборках ничем не отличается от сравнения среднего разности с нулём.
История
Критерий был разработан Уильямом Госсеттом для оценки качества пива на пивоваренных заводах Гиннесса в Дублине (Ирландия). В связи с обязательствами перед компанией по неразглашению коммерческой тайны (руководство Гиннесса считало таковой использование статистического аппарата в своей работе), статья Госсетта вышла в 1908 году в журнале «Биометрика» под псевдонимом «Student» (Студент).
Литература
- Кобзарь А. И. Прикладная математическая статистика. — М.: Физматлит, 2006.
Ссылки
- Проверка статистических гипотез — о методологии проверки статистических гипотез.
- Статистика (функция выборки)
- Student's t-test — статья в англоязычной Википедии.
- t-критерий Стьюдента — статья в русской Википедии.