Статистический анализ данных (курс лекций, К.В.Воронцов)/2009

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
Строка 42: Строка 42:
<tex>x^n \sim N(\mu,1);</tex>
<tex>x^n \sim N(\mu,1);</tex>
-
<tex>H_0\,:\; \mu=0, \;\; H_1\,:\; \mu\neq 0.</tex>
+
<tex>H_0\,:\; \mu=0, \;\; H_1\,:\; \mu\neq 0;</tex>
<tex>\mu=0\,:\,0,05\,:\,3; \;\;\; n=5\,:\,1\,:\,50.</tex>
<tex>\mu=0\,:\,0,05\,:\,3; \;\;\; n=5\,:\,1\,:\,50.</tex>
Строка 54: Строка 54:
<tex>x^n \sim N(\mu_1,\sigma_1),\;\; y^n \sim N(\mu_2,\sigma_2);</tex>
<tex>x^n \sim N(\mu_1,\sigma_1),\;\; y^n \sim N(\mu_2,\sigma_2);</tex>
-
<tex>H_0\,:\; \mu_1=\mu_2, \;\; H_1\,:\; \mu_1\neq\mu_2.</tex>
+
<tex>H_0\,:\; \mu_1=\mu_2, \;\; H_1\,:\; \mu_1\neq\mu_2;</tex>
<tex> n=5\,:\,1\,:\,50.</tex>
<tex> n=5\,:\,1\,:\,50.</tex>
Строка 72: Строка 72:
<tex>x^n \sim N(\mu_1,1),\;\; y^n \sim N(\mu_2,1);</tex>
<tex>x^n \sim N(\mu_1,1),\;\; y^n \sim N(\mu_2,1);</tex>
-
<tex>H_0\,:\; \mu_1=\mu_2, \;\; H_1\,:\; \mu_1\neq\mu_2.</tex>
+
<tex>H_0\,:\; \mu_1=\mu_2, \;\; H_1\,:\; \mu_1\neq\mu_2;</tex>
<tex>\mu_1=0; \;\;\; \mu_2=0\,:\,0,05\,:\,3; \;\;\; n=5\,:\,1\,:\,50.</tex>
<tex>\mu_1=0; \;\;\; \mu_2=0\,:\,0,05\,:\,3; \;\;\; n=5\,:\,1\,:\,50.</tex>
Строка 84: Строка 84:
<tex>x^n \sim N(\mu,1);</tex>
<tex>x^n \sim N(\mu,1);</tex>
-
<tex>H_0\,:\; \mu=0, \;\; H_1\,:\; \mu\neq 0.</tex>
+
<tex>H_0\,:\; \mu=0, \;\; H_1\,:\; \mu\neq 0;</tex>
<tex>\mu=0\,:\,0,05\,:\,3; \;\;\; n=5\,:\,1\,:\,50.</tex>
<tex>\mu=0\,:\,0,05\,:\,3; \;\;\; n=5\,:\,1\,:\,50.</tex>
Строка 96: Строка 96:
<tex>x^n \sim F(\mu_1),\;\; y^n \sim F(\mu_2);</tex>
<tex>x^n \sim F(\mu_1),\;\; y^n \sim F(\mu_2);</tex>
-
<tex>H_0\,:\; \mu_1=\mu_2, \;\; H_1\,:\; \mu_1\neq\mu_2.</tex>
+
<tex>H_0\,:\; \mu_1=\mu_2, \;\; H_1\,:\; \mu_1\neq\mu_2;</tex>
<tex>\mu_1=0; \;\;\; \mu_2=0\,:\,0,05\,:\,3; \;\;\; n=5\,:\,1\,:\,50.</tex>
<tex>\mu_1=0; \;\;\; \mu_2=0\,:\,0,05\,:\,3; \;\;\; n=5\,:\,1\,:\,50.</tex>
Строка 110: Строка 110:
===Критерий Колмогорова-Смирнова для проверки нормальности===
===Критерий Колмогорова-Смирнова для проверки нормальности===
-
<tex>x^n</tex> - смесь распределений <tex>N(0,1)</tex> и <tex>U[-\mu,\mu]</tex> с весами <tex>\alpha</tex> и <tex>1-\alpha</tex> соответственно (т.е. доли распределений в выборке равны <tex>\alpha</tex> и <tex>1-\alpha</tex>).
+
<tex>x^n</tex> - смесь распределений <tex>N(0,1)</tex> и <tex>U[-\mu,\mu]</tex> с весами <tex>\alpha</tex> и <tex>1-\alpha</tex> соответственно (т.е. доли распределений в выборке равны <tex>\alpha</tex> и <tex>1-\alpha</tex>);
-
<tex>H_0\,:\; x^n\sim \cdot N(0,1), \;\; H_1\,:\; F_n(x)\neq N(0,1).</tex>
+
<tex>H_0\,:\; x^n\sim \cdot N(0,1), \;\; H_1\,:\; F_n(x)\neq N(0,1);</tex>
<tex>\alpha=0\,:\,0,02\,:\,1; \;\;\; n=5\,:\,1\,:\,50.</tex>
<tex>\alpha=0\,:\,0,02\,:\,1; \;\;\; n=5\,:\,1\,:\,50.</tex>
Строка 123: Строка 123:
===Критерий хи-квадрат Пирсона для проверки нормальности===
===Критерий хи-квадрат Пирсона для проверки нормальности===
-
<tex>x^n</tex> - смесь распределений <tex>N(0,1)</tex> и <tex>U[-\mu,\mu]</tex> с весами <tex>\alpha</tex> и <tex>1-\alpha</tex> соответственно (т.е. доли распределений в выборке равны <tex>\alpha</tex> и <tex>1-\alpha</tex>).
+
<tex>x^n</tex> - смесь распределений <tex>N(0,1)</tex> и <tex>U[-\mu,\mu]</tex> с весами <tex>\alpha</tex> и <tex>1-\alpha</tex> соответственно (т.е. доли распределений в выборке равны <tex>\alpha</tex> и <tex>1-\alpha</tex>);
-
<tex>H_0\,:\; x^n\sim \cdot N(0,1), \;\; H_1\,:\; F_n(x)\neq N(0,1).</tex>
+
<tex>H_0\,:\; x^n\sim \cdot N(0,1), \;\; H_1\,:\; F_n(x)\neq N(0,1);</tex>
<tex>\alpha=0\,:\,0,02\,:\,1; \;\;\; n=5\,:\,1\,:\,50.</tex>
<tex>\alpha=0\,:\,0,02\,:\,1; \;\;\; n=5\,:\,1\,:\,50.</tex>
Строка 136: Строка 136:
===F-критерий Фишера для проверки гипотезы равенства дисперсий===
===F-критерий Фишера для проверки гипотезы равенства дисперсий===
-
<tex>x^n \sim N(0,\sigma_1),\;\; y^n \sim N(0,\sigma_2);</tex>
+
<tex>x^n \sim N(0,\sigma_1),\;\; y^n \sim N(\mu,\sigma_2);</tex>
-
<tex>H_0\,:\; \sigma_1=\sigma_2, \;\; H_1\,:\; \sigma_1\neq \sigma_2.</tex>
+
<tex>H_0\,:\; \sigma_1=\sigma_2, \;\; H_1\,:\; \sigma_1\neq \sigma_2;</tex>
<tex> n=5\,:\,1\,:\,50.</tex>
<tex> n=5\,:\,1\,:\,50.</tex>
=====Аманжолов Рустем=====
=====Аманжолов Рустем=====
-
<tex>\sigma_1=1, \;\; \sigma_2=0.1\,:\,0.1\,:\,4;</tex> при каждом значении <tex>\sigma_2</tex> выборки для разных значений <tex>n</tex> генерируются независимо.
+
<tex>\mu=0; \;\;\; \sigma_1=1, \;\; \sigma_2=0.1\,:\,0.1\,:\,4;</tex> при каждом значении <tex>\sigma_2</tex> выборки для разных значений <tex>n</tex> генерируются независимо.
=====Пасконова Ольга=====
=====Пасконова Ольга=====
-
<tex>\sigma_1=1, \;\; \sigma_2=0.1\,:\,0.1\,:\,4;</tex> при каждом значении <tex>\sigma_2</tex> выборки <tex>x^n, y^n</tex> получаются из <tex>x^{n-1}, y^{n-1}</tex> добавлением одного случайного элемента.
+
<tex>\mu=0; \;\;\; \sigma_1=1, \;\; \sigma_2=0.1\,:\,0.1\,:\,4;</tex> при каждом значении <tex>\sigma_2</tex> выборки <tex>x^n, y^n</tex> получаются из <tex>x^{n-1}, y^{n-1}</tex> добавлением одного случайного элемента.
 +
=====Гордеев Дмитрий=====
 +
<tex>\sigma_1=\sigma_2=1; \;\;\; \mu=0\,:\,0,05\,:\,3;</tex> при каждом значении <tex>\mu</tex> выборки для разных значений <tex>n</tex> генерируются независимо.
 +
=====Найденов Никита=====
 +
<tex>\sigma_1=\sigma_2=1; \;\;\; \mu=0\,:\,0,05\,:\,3;</tex> при каждом значении <tex>\mu</tex> выборки <tex>x^n, y^n</tex> получаются из <tex>x^{n-1}, y^{n-1}</tex> добавлением одного случайного элемента.
 +
 
=====Ахламченкова Ольга=====
=====Ахламченкова Ольга=====
=====Вишняков Святослав=====
=====Вишняков Святослав=====
=====Голодов Валентин=====
=====Голодов Валентин=====
-
=====Гордеев Дмитрий=====
 
-
=====Найденов Никита=====
 
=====Нарышкин Андрей=====
=====Нарышкин Андрей=====
-
 
=====Толстихин Илья=====
=====Толстихин Илья=====

Версия 18:09, 24 сентября 2009

Содержание

Задание 1

Необходимо провести исследование одного из классических критериев проверки статистических гипотез. Интерес представляет поведение достигаемого уровня значимости (p-value) как функции размера выборок и параметров распределения. В соответствии с индивидуальными параметрами задания необходимо сгенерировать одну или несколько выборок из указанного распределения, выполнить проверку гипотезы при помощи соответствующего критерия, а затем многократно повторить эту процедуру для различных значений параметров. При этом, в зависимости от индивидуальных особенностей задания, выборки могут как генерироваться заново для каждого значения объёма выборки n, так и образовываться путём добавления одного элемента к уже имеющейся выборке объёма n-1. По результатам расчётов необходимо построить следующие графики:

  • график зависимости достигаемого уровня значимости от значений параметров при однократном проведении эксперимента (1 балл);
  • график зависимости достигаемого уровня значимости от значений параметров, усреднённого по нескольким десяткам экспериментов (+1 балл);
  • график с эмпирическими оценками мощности критерия для разных значений параметров (+1 балл).

В качестве оценки мощности принимается доля отвержений нулевой гипотезы среди всех проверок. То есть, если эксперимент повторялся k раз для каждого набора значений параметра, и в m из k случаев гипотеза была отвергнута на некотором фиксированном уровне значимости \alpha (примем \alpha=0.05), оценкой мощности будет отношение m/k.

Необходимо сдать: выполненный в LaTex или Microsoft Word отчёт с описанием алгоритма, построенными графиками и выводами, *.m-файл.

Пример выполнения задания

Исследуем поведение классического двухвыборочного критерия Стьюдента для проверки гипотезы однородности против альтернативы сдвига. x^n = (x_1,\ldots,x_n)\sim N(\mu_1,\sigma),\;\; y^n = (y_1,\ldots,y_n)\sim N(\mu_2,\sigma);

H_0\,:\; \mu_1=\mu_2,

H_1\,:\; \mu_1\neq\mu_2.

Параметры задачи принимают следующие значения:

\sigma = 1; \;\;\; \mu_1=0; \;\;\; \mu_2=0\,:\,0,05\,:\,3; \;\;\; n=5\,:\,1\,:\,50.

При каждом значении \mu_2 выборки для разных значений n генерируются независимо.

График значений достигаемого уровня значимости при однократной генерации выборок:

График значений достигаемого уровня значимости, усрёднённых по 100 экспериментам:

График значений эмпирических оценок мощности критерия при проведении 100 экспериментов:

Индивидуальные параметры задания

Одновыборочный критерий Стьюдента

x^n \sim N(\mu,1);

H_0\,:\; \mu=0, \;\; H_1\,:\; \mu\neq 0;

\mu=0\,:\,0,05\,:\,3; \;\;\; n=5\,:\,1\,:\,50.

Безродный Богдан

При каждом значении \mu выборки для разных значений n генерируются независимо.

Двойнев Александр

При каждом значении \mu выборка x^n получается из x^{n-1} добавлением одного случайного элемента.

Двухвыборочный критерий Стьюдента для независимых выборок

x^n \sim N(\mu_1,\sigma_1),\;\; y^n \sim N(\mu_2,\sigma_2);

H_0\,:\; \mu_1=\mu_2, \;\; H_1\,:\; \mu_1\neq\mu_2;

n=5\,:\,1\,:\,50.

Коликова Екатерина

\mu_1=0; \;\;\; \mu_2=0\,:\,0,05\,:\,3; \;\;\; \sigma_1=\sigma_2=1; при каждом значении \mu_2 выборки x^n, y^n получаются из x^{n-1}, y^{n-1} добавлением одного случайного элемента.

Задонский Дмитрий

\mu_1=0; \;\;\; \mu_2=0\,:\,0,05\,:\,3; \;\;\; \sigma_1=1;\;\;\sigma_2=2; при каждом значении \mu_2 выборки x^n, y^n получаются из x^{n-1}, y^{n-1} добавлением одного случайного элемента.

Ломакин Василий

\mu_1=0; \;\;\; \mu_2=0\,:\,0,05\,:\,3; \;\;\; \sigma_1=1;\;\;\sigma_2=2; при каждом значении \mu_2 выборки для разных значений n генерируются независимо.

Гуков Алексей

\mu_1=\mu_2=0; \;\;\; \sigma_1=1;\;\;\sigma_2=0.1\,:\,0.1\,:\,4; при каждом значении \mu_2 выборки x^n, y^n получаются из x^{n-1}, y^{n-1} добавлением одного случайного элемента.

Решетняк Илья

\mu_1=\mu_2=0; \;\;\; \sigma_1=1;\;\;\sigma_2=0.1\,:\,0.1\,:\,4; при каждом значении \mu_2 выборки для разных значений n генерируются независимо.

Двухвыборочный критерий Стьюдента для связных выборок (случай парных повторных наблюдений)

x^n \sim N(\mu_1,1),\;\; y^n \sim N(\mu_2,1);

H_0\,:\; \mu_1=\mu_2, \;\; H_1\,:\; \mu_1\neq\mu_2;

\mu_1=0; \;\;\; \mu_2=0\,:\,0,05\,:\,3; \;\;\; n=5\,:\,1\,:\,50.

Дзыба Дмитрий

При каждом значении \mu_2 выборки для разных значений n генерируются независимо.

Осокин Антон

При каждом значении \mu_2 выборки x^n, y^n получаются из x^{n-1}, y^{n-1} добавлением одного случайного элемента.

Одновыборочный критерий Уилкоксона

x^n \sim N(\mu,1);

H_0\,:\; \mu=0, \;\; H_1\,:\; \mu\neq 0;

\mu=0\,:\,0,05\,:\,3; \;\;\; n=5\,:\,1\,:\,50.

Задонский Максим

При каждом значении \mu выборки для разных значений n генерируются независимо.

Карпинская Алина

При каждом значении \mu выборка x^n получается из x^{n-1} добавлением одного случайного элемента.

Двухвыборочный критерий Уилкоксона для связных выборок (случай парных повторных наблюдений)

x^n \sim F(\mu_1),\;\; y^n \sim F(\mu_2);

H_0\,:\; \mu_1=\mu_2, \;\; H_1\,:\; \mu_1\neq\mu_2;

\mu_1=0; \;\;\; \mu_2=0\,:\,0,05\,:\,3; \;\;\; n=5\,:\,1\,:\,50.

Гикал Александр

F=N(\mu,1); при каждом значении \mu_2 выборки для разных значений n генерируются независимо.

Ломакина-Румянцева Екатерина

F=N(\mu,1); при каждом значении \mu_2 выборки x^n, y^n получаются из x^{n-1}, y^{n-1} добавлением одного случайного элемента.

Джумабекова Айнагуль

F=U[0,\mu+1]; при каждом значении \mu_2 выборки для разных значений n генерируются независимо.

Мягков Артем

F=U[0,\mu+1]; при каждом значении \mu_2 выборки x^n, y^n получаются из x^{n-1}, y^{n-1} добавлением одного случайного элемента.

Критерий Колмогорова-Смирнова для проверки нормальности

x^n - смесь распределений N(0,1) и U[-\mu,\mu] с весами \alpha и 1-\alpha соответственно (т.е. доли распределений в выборке равны \alpha и 1-\alpha);

H_0\,:\; x^n\sim \cdot N(0,1), \;\; H_1\,:\; F_n(x)\neq N(0,1);

\alpha=0\,:\,0,02\,:\,1; \;\;\; n=5\,:\,1\,:\,50.

При каждом значении параметров выборки для разных значений n генерируются независимо.

Алимбаев Данияр

\mu=1.

Янгиров Ильдар

\mu=2.

Критерий хи-квадрат Пирсона для проверки нормальности

x^n - смесь распределений N(0,1) и U[-\mu,\mu] с весами \alpha и 1-\alpha соответственно (т.е. доли распределений в выборке равны \alpha и 1-\alpha);

H_0\,:\; x^n\sim \cdot N(0,1), \;\; H_1\,:\; F_n(x)\neq N(0,1);

\alpha=0\,:\,0,02\,:\,1; \;\;\; n=5\,:\,1\,:\,50.

При каждом значении параметров выборки для разных значений n генерируются независимо.

Дерябин Василий

\mu=1.

Одинокова Евгения

\mu=2.

F-критерий Фишера для проверки гипотезы равенства дисперсий

x^n \sim N(0,\sigma_1),\;\; y^n \sim N(\mu,\sigma_2);

H_0\,:\; \sigma_1=\sigma_2, \;\; H_1\,:\; \sigma_1\neq \sigma_2;

n=5\,:\,1\,:\,50.

Аманжолов Рустем

\mu=0; \;\;\; \sigma_1=1, \;\; \sigma_2=0.1\,:\,0.1\,:\,4; при каждом значении \sigma_2 выборки для разных значений n генерируются независимо.

Пасконова Ольга

\mu=0; \;\;\; \sigma_1=1, \;\; \sigma_2=0.1\,:\,0.1\,:\,4; при каждом значении \sigma_2 выборки x^n, y^n получаются из x^{n-1}, y^{n-1} добавлением одного случайного элемента.

Гордеев Дмитрий

\sigma_1=\sigma_2=1; \;\;\; \mu=0\,:\,0,05\,:\,3; при каждом значении \mu выборки для разных значений n генерируются независимо.

Найденов Никита

\sigma_1=\sigma_2=1; \;\;\; \mu=0\,:\,0,05\,:\,3; при каждом значении \mu выборки x^n, y^n получаются из x^{n-1}, y^{n-1} добавлением одного случайного элемента.


Ахламченкова Ольга
Вишняков Святослав
Голодов Валентин
Нарышкин Андрей
Толстихин Илья
Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%A1%D1%82%D0%B0%D1%82%D0%B8%D1%81%D1%82%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9_%D0%B0%D0%BD%D0%B0%D0%BB%D0%B8%D0%B7_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85_%28%D0%BA%D1%83%D1%80%D1%81_%D0%BB%D0%B5%D0%BA%D1%86%D0%B8%D0%B9%2C_%D0%9A.%D0%92.%D0%92%D0%BE%D1%80%D0%BE%D0%BD%D1%86%D0%BE%D0%B2%29/2009»
Личные инструменты