Статистический анализ данных (курс лекций, К.В.Воронцов)/2014, ФУПМ/1

Материал из MachineLearning.

Версия от 07:59, 25 февраля 2014; Riabenko (Обсуждение | вклад)

(разн.) ← Предыдущая | Текущая версия (разн.) | Следующая → (разн.)

Ниже под обозначением $X^n, \;\; X_i \sim p\cdot N(\mu,\sigma^2)+ \left(1-p\right)\cdot U\left[-a,b\right]$ понимается выборка объёма $n$ из смеси нормального $N(\mu,\sigma^2)$ и равномерного $U\left[-a,b\right]$ распределений с весами $p$ и $1-p$ соответственно (при генерации каждой выборки используется случайный датчик — если его значение не превосходит $p$ , то добавляем в выборку элемент, взятый из нормального распределения, иначе — элемент, взятый из равномерного).

Содержание

1 Анализ поведения схожих критериев
2 Анализ устойчивости критериев к нарушению предположений
3 Анализ двухэтапных процедур проверки гипотез
4 Ссылки

Анализ поведения схожих критериев

Требуется исследовать поведение указанной пары статистических критериев, подходящих для решения одной и той же задачи, сравнить мощность и достигаемые уровни значимости и сделать выводы о границах применимости критериев. Необходимо для каждого из критериев построить графики зависимости достигаемых уровней значимости и оценок мощностей от параметров, и показать, в каких областях изменения параметров предпочтительнее использовать тот или иной критерий. Для получения более гладких графиков рекомендуется применять оба критерия к одним и тем же выборкам, а не генерировать их отдельно для каждого критерия.

$X^n, \;\; X_i\sim Ber(p);$
$H_0\,:\, p=\frac{1}{2},$
$H_1\,:\, p\neq\frac{1}{2};$
$p=0.01\,:\,0.01\,:\,0.99, \;\; n=5\,:\,1\,:\,50.$

Старожилец: сравнить z-критерий и точный критерий для доли.

Вялый: сравнить критерии, основанные на доверительных интервалах Вальда и Уилсона (нулевая гипотеза отвергается на уровне значимости 5%, если 95% доверительный интервал для параметра не содержит $\frac{1}{2}$ ).

$X^n, \;\; X_i\sim N(\mu,\sigma);$
$H_0\,:$ среднее значение $X$ равно нулю,
$H_1\,:$ среднее значение $X$ не равно нулю;
$\mu=-2\,:\,0.01\,:\,2, \;\; \sigma=1, \;\; n=5\,:\,1\,:\,50.$

Гончаров: сравнить одновыборочные t- и z-критерии.

Каледин: сравнить одновыборочный t-критерий и критерий знаковых рангов Уилкоксона.

Капаев: сравнить одновыборочный перестановочный критерий и критерий знаковых рангов Уилкоксона.

$X_1^n, \;\; X_{1i} \sim N(\mu_1, \sigma_1^2),\;\;X_2^n, \;\; X_{2i} \sim N(\mu_2, \sigma_2^2);$
$H_0\,:\, \mathbb{D}X_{1i} = \mathbb{D}X_{2i},$
$H_1\,:\, \mathbb{D}X_{1i} \neq \mathbb{D}X_{2i};$
$\mu_1=0, \;\; \sigma_1=1.$

Коновалов: $\mu_2=0, \;\; \sigma_2 = 0.5\,:\,0.01\,:\,2, \;\; n=5\,:\,1\,:\,50.$ Сравнить критерий Фишера и WM-критерий.

Кузнецов: $\mu_2=0\,:\,0.05\,:\,5, \;\; \sigma_2 = 0.5\,:\,0.01\,:\,2, \;\; n=50.$ Сравнить WM-критерий и критерий Зигеля-Тьюки.

Петров: $\mu_2=0\,:\,0.05\,:\,5, \;\; \sigma_2 = 0.5\,:\,0.01\,:\,2, \;\; n=20.$ Сравнить критерий Фишера и критерий Зигеля-Тьюки.

$X^n, \;\; X_i \sim p\cdot N(0,1)+ \left(1-p\right)\cdot U\left[-a,a\right];$
$H_0\,:\; X_i \sim N,$
$H_1\,:\; H_0$ неверна;
$n=10\,:\,5\,:\,100.$

Хрипко: $a=1, \;\; p=0\,:\,0.02\,:\,1.$ Сравнить критерий Шапиро-Уилка и критерий Колмогорова-Смирнова.

Шепелев: $a=2, \;\; p=0\,:\,0.02\,:\,1.$ Сравнить критерий Смирнова-Крамера-фон Мизеса и критерий Жарка-Бера.

Вдовина: $a=0.5\,:\,0.1\,:\,5, \;\; p=0.25.$ Сравнить критерий Колмогорова-Смирнова и критерий хи-квадрат.

Анализ устойчивости критериев к нарушению предположений

Требуется исследовать поведение указанного критерия в условиях нарушения лежащих в его основе предположений. Оценить мощность и достигаемый уровень значимости критерия при различных значениях параметров, сделать выводы об устойчивости.

Одновыборочный t-критерий, нарушение предположения о нормальности.
$X^n, \;\; X_i \sim p\cdot N(\mu,1)+ \left(1-p\right)\cdot U\left[-a+\mu,a+\mu\right];$
$H_0\,:\; \mathbb{E}X_i=0$
$H_1\,:\; \mathbb{E}X_i\neq0.$

Воронов: $\mu=0\,:\,0.01\,:\,2, \;\; p=0.8, \;\; a=1, \;\; n=15\,:\,5\,:\,200.$

Гринчук: $\mu=1, \;\; p=0\,:\,0.01\,:\,1, \;\; a=2, \;\; n=15\,:\,5\,:\,200.$

Катруца: $\mu=0\,:\,0.01\,:\,2, \;\; p=0\,:\,0.01\,:\,1, \;\; a=1, \;\; n=150.$

Кащеева: $\mu=0.5, \;\; p=0\,:\,0.01\,:\,1, \;\; a=0.1\,:\,0.1\,:\,5, \;\; n=100.$

Критерий Фишера для проверки равенства дисперсий, нарушение предположения о нормальности.
$X_1^n, \;\; X_{1i} \sim p_1\cdot N(0,\sigma_1^2)+ \left(1-p_1\right)\cdot U\left[-a,a\right], \;\; X_2^n,\;\; X_{2i} \sim p_2\cdot N(0,\sigma_2^2)+ \left(1-p_2\right)\cdot U\left[-a,a\right];$
$H_0\,:\, \mathbb{D}X_{1i} = \mathbb{D}X_{2i},$
$H_1\,:\, \mathbb{D}X_{1i} \neq \mathbb{D}X_{2i};$
$\sigma_1=2, \;\; \sigma_2=0.1\,:\,0.05\,:\,4.$

Костин: $p_1=p_2=0.8, \;\; a=2, \;\; n=15\,:\,5\,:\,200.$

Неклюдов: $p_1=p_2=0\,:\,0.01\,:\,1, \;\; a=3, \;\; n=100.$

Критерий Зигеля-Тьюки, нарушение предположения о равенстве медиан.
$X_1^n, \;\; X_{1i} \sim N(0,1), \;\; X_2^n, \;\; X_{2i} \sim N(\mu,\sigma^2);$
$H_0\,:\; \mathbb{D}X_{1i} = \mathbb{D}X_{2i},$
$H_1\,:\; \mathbb{D}X_{1i} \neq \mathbb{D}X_{2i}.$

Перекрестенко: $\mu=0\,:\,0.02\,:\,2, \;\; \sigma=0.1\,:\,0.05\,:\,2, \;\; n=50.$

Пушняков: $\mu=2, \;\; \sigma=0.1\,:\,0.05\,:\,2, \;\; n=15\,:\,5\,:\,200.$

Двухвыборочный t-критерий, нарушение предположения о равенстве дисперсий.
$X_1^{n_1}, \;\; X_{1i} \sim N(0,1), \;\; X_2^{n_2}, \;\; X_{2i} \sim N(\mu,\sigma^2);$
$H_0\,:\; \mathbb{E}X_{1i} = \mathbb{E}X_{2i},$
$H_1\,:\; \mathbb{E}X_{1i} \neq \mathbb{E}X_{2i}.$

Рыскина: $\mu=0\,:\,0.02\,:\,2, \;\; \sigma=0.1\,:\,0.05\,:\,2, \;\; n_1=n_2=50.$

Яшков: $\mu=1, \;\; \sigma=0.1\,:\,0.05\,:\,2, \;\; n_1=15\,:\,5\,:\,200, \;\; n_2 = 50.$

Анализ двухэтапных процедур проверки гипотез

Требуется построить описанную двухэтапную процедуру проверки гипотез и сравнить вероятности совершения ей ошибок первого и второго рода при уровне значимости $\alpha$ с аналогичными показателями каждого из критериев второго этапа. Сделать выводы о корректности применения двухэтапной процедуры.

Одновыборочная гипотеза о среднем с предварительной проверкой нормальности. Если нормальность отвергается на уровне значимости $\alpha$ , используется критерий знаковых рангов, иначе — t-критерий.
$X^n, \;\; X_i \sim p\cdot N(\mu,1)+ \left(1-p\right)\cdot U\left[-a+\mu,a+\mu\right];$
$H_0\,:\; \mathbb{E}X_i=0$
$H_1\,:\; \mathbb{E}X_i\neq0.$

Бескровный: $\alpha=0.05, \;\; \mu=0\,:\,0.05\,:\,2, \;\; p=0.8, \;\; a=1, \;\; n=15\,:\,5\,:\,200.$ Нормальность проверяется критерием Шапиро-Уилка.

Поляков: $\alpha=0.05, \;\; \mu=0\,:\,0.05\,:\,2, \;\; p=0\,:\,0.02\,:\,1, \;\; a=2, \;\; n=50.$ Нормальность проверяется критерием Смирнова-Крамера-фон Мизеса.

Соколова: $\alpha=0.1, \;\; \mu=0\,:\,0.05\,:\,2, \;\; p=0.8, \;\; a=0\,:\,0.05\,:\,3, \;\; n=50.$ Нормальность проверяется критерием Лиллиефорса.

Двухвыборочная гипотеза о равенстве средних с предварительной проверкой нормальности. Если нормальность хотя бы одной из выборок отвергается на уровне значимости $\alpha$ , используется критерий Уилкоксона-Манна-Уитни, иначе — критерий Аспина-Уэлша.
$X_1^{n_1}, \;\; X_{1i} \sim p_1\cdot N(0,1) + \left(1-p_1\right)\cdot U\left[-a,a\right] , \;\; X_2^{n_2}, \;\; X_{2i} \sim p_2\cdot N(\mu,1) + \left(1-p_2\right)\cdot U\left[-a+\mu,a+\mu\right];$
$H_0\,:\; \mathbb{E}X_{1i} = \mathbb{E}X_{2i},$
$H_1\,:\; \mathbb{E}X_{1i} \neq \mathbb{E}X_{2i};$
$\mu=0\,:\,0.05\,:\,2.$

Харченко: $\alpha=0.05, \;\; p_1=0.9, \;\; n_1=20, \;\; a=2, \;\; p_2 = 0.8, \;\; n_2 = 15\,:\,5\,:\,200.$ Нормальность проверяется критерием Лиллиефорса.

Балицкий: $\alpha=0.01, \;\; p_1=p_2=0.8, \;\; n_1=n_2=15 \,:\,5\,:\,200, \;\; a=1.$ Нормальность проверяется критерием Смирнова-Крамера-фон Мизеса.

Довгаль: $\alpha=0.05, \;\; p_1=0.8, \;\; n_1=n_2=50, \;\; a=1, \;\; p_2 = 0\,:\,0.02\,:\,1.$ Нормальность проверяется критерием Шапиро-Уилка.

Трофимов: $\alpha=0.1, \;\; p_1=p_2=0.8, \;\; n_1=n_2=50, \;\; a=0\,:\,0.05\,:\,3.$ Нормальность проверяется критерием хи-квадрат.

Двухвыборочная гипотеза о равенстве средних с предварительной проверкой равенства дисперсий. Равенство дисперсий проверяется критерием Фишера, если оно отвергается на уровне значимости $\alpha$ , используется критерий Аспина-Уэлша, иначе — t-критерий для неизвестных равных дисперсий.
$X_1^{n_1}, \;\; X_{1i} \sim N(0,1), \;\; X_2^{n_2}, \;\; X_{2i} \sim N(\mu,\sigma^2);$
$H_0\,:\; \mathbb{E}X_{1i} = \mathbb{E}X_{2i},$
$H_1\,:\; \mathbb{E}X_{1i} \neq \mathbb{E}X_{2i}.$

Папанов: $\alpha=0.05, \;\; \mu=0\,:\,0.05\,:\,2, \;\; \sigma=0.1\,:\,0.05\,:\,2, \;\; n_1=n_2=50.$