Статистический анализ данных (курс лекций, К.В.Воронцов)/2011

Материал из MachineLearning.

(Различия между версиями)

Текущая версия

Содержание

1 Задание 1. Исследование свойств одномерных статистических критериев на модельных данных
- 1.1 Пример задания
- 1.2 Задания
2 Задание 2. Анализ реальных данных
3 Литература
4 Ссылки

Задание 1. Исследование свойств одномерных статистических критериев на модельных данных

Необходимо провести исследование одного или нескольких классических критериев проверки статистических гипотез. Интерес представляет поведение достигаемого уровня значимости (p-value) как функции размера выборок и параметров распределения. В соответствии с индивидуальными параметрами задания необходимо указанным способом сгенерировать одну или несколько выборок из заданного распределения, выполнить проверку гипотезы при помощи соответствующего критерия, а затем многократно повторить эту процедуру для различных значений параметров. По результатам расчётов необходимо построить требуемые в задании графики, среди которых могут быть следующие:

график зависимости достигаемого уровня значимости от значений параметров при однократном проведении эксперимента;
график зависимости достигаемого уровня значимости одного или двух критериев от значений параметров, усреднённого по большому количеству повторений эксперимента (например, по 1000 повторений);
график с эмпирическими оценками мощности одного или двух критериев для разных значений параметров.

В качестве оценки мощности принимается доля отвержений нулевой гипотезы среди всех проверок. То есть, если эксперимент повторялся $k$ раз для каждого набора значений параметров, и в $m$ из $k$ случаев гипотеза была отвергнута на некотором фиксированном уровне значимости $\alpha$ (примем $\alpha=0.05$ ), оценкой мощности будет отношение $m/k.$

Необходимо сдать: выполненный в LaTex или Microsoft Word отчёт с описанием алгоритма, построенными графиками и выводами (объяснение полученных результатов моделирования, границы применимости критерия и т.д.), а также *.m-файл или R-скрипт, при запуске которого на экран выводятся графики, соответствующие имеющимся в отчёте.

Задание принимается до первого ноября.

Пример задания

Исследуем чувствительность классического двухвыборочного критерия Стьюдента для проверки гипотезы однородности против альтернативы сдвига при зашумлении выборок наблюдениями, взятыми из равномерного распределения.

$x^n, \;\; x \sim 0.9\cdot N(\mu_1,1)+ 0.1\cdot U\left[-5+\mu_1,5+\mu_1\right]$ — выборка длины $n$ из смеси стандартного нормального $N(\mu_1,1)$ и равномерного $U\left[-5+\mu_1,5+\mu_1\right]$ распределений с весами $0.9$ и $0.1$ соответственно (при генерации выборки используется случайный датчик — если его значение не превосходит $0.9$ , то добавляем в выборку элемент, взятый из нормального распределения, иначе — элемент, взятый из равномерного).

$y^n, \;\; y \sim 0.9\cdot N(\mu_2,1)+ 0.1\cdot U\left[-5+\mu_2,5+\mu_2\right]$ — аналогичная выборка.

$H_0\,:\; \mathbb{E}(x)=\mathbb{E}(y), \;\; H_1\,:\; \mathbb{E}(x)\neq\mathbb{E}(y).$

$\mu_1=0, \;\; \mu_2=-2\,:\,0.01\,:\,2, \;\; n=15\,:\,5\,:\,200.$

При каждом значении $\mu_2$ выборки для разных значений $n$ генерируются независимо.

Значения достигаемого уровня значимости при однократной генерации выборок.

Значения достигаемого уровня значимости, усрёднённые по 3000 экспериментам.

Значения эмпирических оценок мощности критерия при проведении 3000 экспериментов $(\alpha=0.05).$

Заметим, что однократная генерация выборок даёт достаточно нестабильные результаты, не позволяя точно оценить границы области, где нулевая гипотеза отклоняется, поэтому и необходимо усреднение по большому числу экспериментов.

Видно, что при достаточно большой разнице между средними и большом размере выборок наличие шума не мешает уверенно отклонять гипотезу однородности. Когда, наоборот, разница между средними невелика (меньше 0.2-0.5 в зависимости от размера выборок), мощность близка к нулю, а среднее значение достигаемого уровня значимости колеблется около 0.5, что логично, так как его распределение при справедливости нулевой гипотезы равномерно на $[0,1]$ .

Чтобы оценить вклад зашумления выборок, оценим при всех значениях параметра мощность критерия и средний достигаемый уровень значимости на аналогичных выборках без шума и сравним результаты.

Разность средних достигаемых уровней значимости на выборках без шума и с шумом.

Разность эмпирических оценок мощности на выборках без шума и с шумом.

Видно, что наличие шума всё меньше влияет на работу критерия с ростом объёма выборок и разницы между их средними. Тем не менее, в некоторых областях изменения параметров потеря мощности из-за 10% зашумления может составлять до 20%, а средний достигаемый уровень значимости может быть выше на 0.1.

Отметим, что приведённые количественные выводы справедливы только для шума рассматриваемой структуры.

Задания

Анализ чувствительности критериев к редактированию выборки

Известно, что исключение из выборки определённых наблюдений зачастую может достаточно сильно повлиять на результат анализа. Необходимо исследовать чувствительность указанного критерия к редактированию выборки, построить графики, сделать выводы.

На каждом шаге генерируются выборки исходной длины, проводится проверка гипотезы $H_0$ , затем по некоторому правилу из указанной выборки исключается один из элементов, проверка гипотезы повторяется, затем исключается ещё один, и т.д. Обозначим за $k$ максимальное число исключённых в таком процессе элементов; примем во всех задачах $k=50$ .

Двухвыборочный критерий Стьюдента для связных выборок.

$x^n,\;\; x \sim N(0,1), y^n=x^n+z^n, \;\; z \sim N(\mu,\sigma^2),$
$H_0\,:\; \mathbb{E}(x)=\mathbb{E}(y), \;\; H_1\,:\; \mathbb{E}(y)> \mathbb{E}(x).$

Студент 1: $n=100,\;\;\sigma=1,\;\;\mu=-1\,:\,0.01\,:\,1,\;\;$ на каждом шаге исключается пара наблюдений $x_i, y_i,$ разность которых максимальна.

Студент 2: $n=150,\;\;\sigma=2,\;\;\mu=-1\,:\,0.01\,:\,1,\;\;$ на каждом шаге исключается пара наблюдений $x_i, y_i,$ разность которых минимальна.

Критерий Уилкоксона-Манна-Уитни для независимых выборок.

$x^n,\;\; x \sim N(0,1), y^n, \;\; y \sim N(\mu,\sigma^2),$
$H_0\,:\; \mathbb{E}(x)=\mathbb{E}(y), \;\; H_1\,:\; \mathbb{E}(y)> \mathbb{E}(x).$

Студент 3: $n=100,\;\;\sigma=1,\;\;\mu=-1\,:\,0.01\,:\,1,\;\;$ на каждом шаге исключается максимальный элемент выборки $y^n$ .

Студент 4: $n=150,\;\;\sigma=2,\;\;\mu=-1\,:\,0.01\,:\,1,\;\;$ на каждом шаге исключается максимальный элемент выборки $x^n$ .

Студент 5: $n=200,\;\;\sigma=4,\;\;\mu=-1\,:\,0.01\,:\,1,\;\;$ на каждом шаге исключается минимальный элемент выборки $x^n$ .

Критерий Фишера для проверки равенства дисперсий.

$x^n, \;\; x \sim N(0,1), y^n, \;\; y \sim N(0,\sigma^2),$
$H_0\,:\; var(x)=var(y), \;\; H_1\,:\; var(y)> var(x).$

Студент 6: $n=100,\;\;\sigma=0.01\,:\,0.01\,:\,2,\;\;$ на каждом шаге исключается максимальный по модулю элемент выборки $y^n$ .

Студент 7: $n=200,\;\;\sigma=0.01\,:\,0.01\,:\,2,\;\;$ на каждом шаге исключается минимальный по модулю элемент выборки $y^n$ .

Студент 8: $n=100,\;\;\sigma=0.01\,:\,0.01\,:\,2,\;\;$ на каждом шаге исключается максимальный элемент выборки $y^n$ .

Студент 9: $n=200,\;\;\sigma=0.01\,:\,0.01\,:\,2,\;\;$ на каждом шаге исключается минимальный элемент выборки $y^n$ .

Устойчивость критериев к нарушению предположения нормальности

Исследовать поведение параметрических критериев, предполагающих нормальность данных, при зашумлении выборок наблюдениями, взятыми из равномерного распределения.

Двухвыборочный критерий Стьюдента для связных выборок

$x^n, \;\; x \sim N(0,1),$
$y^n=x^n+z^n, \;\; z \sim p\cdot N(\mu,\sigma^2) + \left(1-p\right)\cdot U\left[-a+\mu, a+\mu\right]$ — связанная с ней выборка, полученная добавлением компоненты $z$ из смеси нормального $N(\mu,\sigma^2)$ и равномерного $U[-a+\mu,a+\mu]$ распределений с весами $p$ и $1-p$ соответственно (при генерации выборки используется случайный датчик — если его значение не превосходит $p$ , то добавляем в выборку элемент, взятый из нормального распределения, иначе — элемент, взятый из равномерного),
$H_0\,:\; \mathbb{E}(x)=\mathbb{E}(y), \;\; H_1\,:\; \mathbb{E}(x)\neq \mathbb{E}(y).$

Студент 10: $a=1, \;\; n=100, \;\; \sigma=0.5, \;\; p=0\,:\,0.01\,:\,1, \;\; \mu=0\,:\,0.03\,:\,3.$

Студент 11: $a=3, \;\; n=100, \;\; \sigma=0.5, \;\; p=0\,:\,0.01\,:\,1, \;\; \mu=0\,:\,0.03\,:\,3.$

Студент 12: $a=3, \;\; n=100, \;\; \sigma=0.01\,:\,0.01\,:\,1, \;\; p=0.8, \;\; \mu=0\,:\,0.03\,:\,3.$

Критерий Фишера для проверки равенства дисперсий.

$x^n, \;\; x \sim p_1\cdot N(0,\sigma_1^2)+ \left(1-p_1\right)\cdot U\left[-a,a\right]$ — выборка длины $n$ из смеси нормального $N(0,\sigma_1^2)$ и равномерного $U[-a,a]$ распределений с весами $p_1$ и $1-p_1$ соответственно (при генерации выборки используется случайный датчик — если его значение не превосходит $p_1$ , то добавляем в выборку элемент, взятый из нормального распределения, иначе — элемент, взятый из равномерного),
$y^n,\;\; y \sim p_2\cdot N(0,\sigma_2^2)+ \left(1-p_2\right)\cdot U\left[-a,a\right]$ — аналогичная выборка,
$H_0\,:\; var(x)=var(y), \;\; H_1\,:\; var(x)\neq var(y),$
$\sigma_1=2, \;\; \sigma_2=0.1\,:\,0.05\,:\,4.$

Студент 13: $p_1=p_2=0.8, \;\; a=2, \;\; n=15\,:\,5\,:\,200.$

Студент 14: $p_1=p_2=0\,:\,0.01\,:\,1, \;\; a=2, \;\; n=150.$

Студент 15: $p_1=p_2=0\,:\,0.01\,:\,1, \;\; a=3, \;\; n=100.$

Анализ поведения разновидностей критерия Стьюдента

Критерий Стьюдента может явно учитывать дополнительную информацию о дисперсии выборок и их структуре. Необходимо исследовать, какой выигрыш даёт эта информация, сравнив мощности и средние достигаемые уровни значимости вариантов критериев при различных значениях параметров.
$H_0\,:\; \mathbb{E}(x)=\mathbb{E}(y), \;\; H_1\,:\; \mathbb{E}(x)\neq\mathbb{E}(y).$

Парный критерий Стьюдента и версия для независимых выборок и неизвестных неравных дисперсий.

$x^n,\;\; x \sim N(0,1), y^n = x^n + z^n, \;\; z\sim N(\mu,\sigma^2).$

Студент 16: $\sigma=1, \;\; \mu=-2\,:\,0.01\,:\,2, \;\; n=5\,:\,1\,:\,100.$

Студент 17: $\sigma=0.01\,:\,0.01\,:\,2, \;\; \mu=-2\,:\,0.01\,:\,2, \;\; n=100.$

Критерий Стьюдента для независимых выборок, версии для неизвестных и известных неравных дисперсий.

$x^n,\;\; x \sim N(0,1), y^n, \;\; y \sim N(\mu,\sigma^2).$

Студент 18: $\sigma=0.01\,:\,0.01\,:\,2, \;\; \mu=-2\,:\,0.01\,:\,2, \;\; n=50.$

Студент 19: $\sigma=0.01\,:\,0.01\,:\,2, \;\; \mu=0.5, \;\; n=5\,:\,1\,:\,100.$

Парный критерий Стьюдента и версия для независимых выборок и известных неравных дисперсий.

$x^n, \;\; x \sim N(0,1), y^n = x^n + z^n, \;\; z\sim N(\mu,\sigma^2)$
(cогласно свойствам нормального распределения, $var\left(y\right)=\sigma^2+1$ .)

Студент 20: $\sigma=1, \;\; \mu=-2\,:\,0.01\,:\,2, \;\; n=5\,:\,1\,:\,100.$

Студент 21: $\sigma=0.01\,:\,0.01\,:\,2, \;\; \mu=-2\,:\,0.01\,:\,2, \;\; n=100.$

Задание 2. Анализ реальных данных

Ниже приведены описания анализируемых данных и постановки задач. Сами данные каждый студент может получить по электронной почте после сдачи первого задания. При проведении анализа можно пользоваться любыми доступными программными средствами. Необходимо предоставить подробный письменный отчёт по проведённому исследованию, содержащий выводы и описания каждого этапа анализа — используемые методы, обоснование их применимости, промежуточные результаты вычислений, графики. Помимо выводов, касающихся математических особенностей решения, необходимо включить в отчёт заключения, сформулированные в терминах предметной области, которые могли бы быть понятны гипотетическому заказчику-нематематику.

Cдача задания является необходимым условием получения допуска к экзамену — студенты, не получившие зачёт к моменту сдачи экзамена, не смогут его сдавать, и должны будут выполнить задание к пересдаче.

Относительная минеральная плотность позвоночника

У 261 испытуемых в возрасте от 5 до 26 лет от одного до трёх раз была измерена относительная минеральная плотность позвоночника; всего имеется 485 измерений. Приведены также данные о поле каждого испытуемого.

Студент 17: построить функцию, предсказывающую относительную минеральную плотность позвоночника по полу и возрасту.

Студент 1: проанализировать различия по относительной минеральной плотности между испытуемыми мужского и женского пола, исключив возможное влияние возраста.

Студент 7: исследовать различия между испытуемыми, для которых имеется только одно, два или три измерения.

Вкус и химический состав сыра чеддер

30 разновидностей сыра чеддер было проанализировано как с точки зрения химического состава, так и с помощью дегустаторов. Для каждой разновидности известны: оценка вкуса, полученная путём усреднения оценок, выставленных несколькими дегустаторами, логарифмы концентраций уксусной кислоты и сульфида водорода, концентрация молочной кислоты.

Студент 15: построить функцию, по химическому составу сыра предсказывающую его оценку дегустаторами и границы доверительного интервала для неё.

Студент 5: построить функцию, позволяющую по оценке вкуса и логарифмам концентраций уксусной кислоты и сульфида водорода восстанавливать концентрацию молочной кислоты.

Клетки опухолей груди

Гистохимия пунктата злокачественной опухоли.

357 испытуемым с доброкачественными и 212 со злокачественными опухолями груди была сделана тонкоигольная аспирационная пункция с гистологическим исследованием пунктата. По полученным изображениям определялись следующие признаки опухолевых клеток: радиус, однородность текстуры, периметр, площадь, гладкость, компактность, степень вогнутости, доля вогнутых участков контура, симметричность, фрактальная размерность. Для каждого изображения были рассчитаны среднее значение каждого из этих признаков, стандартное отклонение и среднее по трём клеткам с максимальным значением признака.

Студент 9: оценить вероятность того, что опухоль злокачественная, по набору рассчитанных по изображению признаков. Построить функции, дающие точечную оценку и границы 95% доверительного интервала.

Пассажиры Титаника

Приведены данные о 1309 пассажирах Титаника. Для каждого пассажира указано имя, пол, возраст, класс и цена билета, число родственников на борту, и, кроме того, удалось ли ему выжить.

Студент 6: по каким признакам отличаются выжившие пассажиры от погибших?

Студент 8: построить функции, предсказывающие вероятность выживания пассажира по имеющимся данным и границы доверительного интервала для неё.

Концентрация озона

Имеются данные измерений состояния атмосферы, произведённых в Нью-Йорке в течение 111 подряд идущих дней. Измерены температура воздуха, скорость ветра, уровень солнечной радиации и концентрация озона.

Студент 2: построить прогноз состояния атмосферы на следующие 10 дней.

Студент 10: построить функцию, по имеющимся признакам оценивающую наиболее вероятное значение концентрации озона и доверительный интервал для него.

Студент 16: построить функцию, по имеющимся признакам оценивающую наиболее вероятное значение уровня солнечной радиации и доверительный интервал для него.

Солнечная активность

В центре исследования солнечной активности Цюрихской обсерватории собраны данные о среднем числе солнечных пятен за каждый месяц с января 1749 года.

Студент 3: предсказать среднее число солнечных пятен на каждый месяц до конца 2020 года.

Стоимость подержанных автомобилей

Имеются данные о стоимости 804 подержанных автомобилей и их характеристиках: известны пробег, производитель, модель, вид модели, тип кузова, число цилиндров, объём двигателя, число дверей, а также наличие или отсутствие круиз контроля, продвинутой звуковой системы и кожаной обивки сидений.

Студент 4: построить модель стоимости автомобиля по данному набору признаков.

Студент 11: исследовать взаимосвязи между признаками, сравнить распределения признаков в группах, образуемых разбиениями по дискретным признакам.

Продолжительность жизни и активность размножения самцов дрозофилы

Для изучения влияния активности размножения самцов дрозофилы на продолжительность их жизни был организован следующий эксперимент. По 25 самцов в пяти группах содержались в одинаковых условиях, за исключением одного отличия: в первой группе к каждому самцу ежедневно подсаживалась готовая к размножению самка, во второй – восемь готовых к размножению самок, в третьей и четвёртой - соответственно, одна и восемь беременных самок, не готовых к размножению, наконец, к самцам четвёртой группы не подсаживали никого. Для каждого самца измерена продолжительность жизни, длина грудной клетки и доля времени, проводимого во сне.

Студент 20: сравнить продолжительность жизни самцов в разных группах.

Студент 21: построить функцию, предсказывающую продолжительность жизни самца дрозофилы в зависимости от условий его содержания.

Массовая доля жира в организме

Массовая доля жира, важная характеристика здоровья, рассчитывается через плотность тела, измеряемую при помощи взвешивания в воде. Для 252 мужчин проведены такие расчёты. Имеются также данные антропометрии (возраст, рост, вес, обхват грудной клетки и т.д.)

Студент 13: построить функцию, оценивающую массовую долю жира по легко измеряемым антропометрическим признакам.

Студент 14: построить функцию, оценивающую индекс ожирения без использования данных взвешивания.

Диета цыплят

Для 50 цыплят, разбитых на 4 группы по типу диеты, имеются результаты взвешивания в возрасте от 0 до 21 дней; пропущенные значения соответствуют умершим цыплятам.

Студент 12: сравнить эффективность различных типов диеты.

Посещаемость сервиса "Яндекс.Открытки"

Измерена месячная аудитория сервиса "Яндекс.Открытки" с мая 2008 по сентябрь 2011 г.

Студент 19: предсказать месячную аудиторию на период с октября 2011 по июнь 2012 г.

Краш-тест с манекенами

Имеются результаты 352 краш-тестов, при которых происходило лобовое столкновение автомобилей с бетонной стеной на скорости около 60 км/ч. Измерены показатели повреждения манекенов: критерий тяжести повреждений головы, замедление грудной клетки, нагрузка на левое и правое бедро.

Студент 18: исследовать зависимость показателей повреждения от типа кузова, вида средств защиты, места манекена, веса автомобиля.

Литература

Кобзарь А. И. Прикладная математическая статистика. — М.: Физматлит, 2006.

Ссылки

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%A1%D1%82%D0%B0%D1%82%D0%B8%D1%81%D1%82%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9_%D0%B0%D0%BD%D0%B0%D0%BB%D0%B8%D0%B7_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85_%28%D0%BA%D1%83%D1%80%D1%81_%D0%BB%D0%B5%D0%BA%D1%86%D0%B8%D0%B9%2C_%D0%9A.%D0%92.%D0%92%D0%BE%D1%80%D0%BE%D0%BD%D1%86%D0%BE%D0%B2%29/2011»

Категория: Учебные курсы

@@ Строка 8: / Строка 8: @@
 # график с эмпирическими оценками [[Мощность критерия|мощности]] одного или двух критериев для разных значений параметров.
-В качестве оценки мощности принимается доля отвержений нулевой гипотезы среди всех проверок. То есть, если эксперимент повторялся <tex>k</tex> раз для каждого набора значений параметра, и в <tex>m</tex> из <tex>k</tex> случаев гипотеза была отвергнута на некотором фиксированном уровне значимости <tex>\alpha</tex> (примем <tex>\alpha=0.05</tex>), оценкой мощности будет отношение <tex>m/k</tex>.
+В качестве оценки мощности принимается доля отвержений нулевой гипотезы среди всех проверок. То есть, если эксперимент повторялся <tex>k</tex> раз для каждого набора значений параметров, и в <tex>m</tex> из <tex>k</tex> случаев гипотеза была отвергнута на некотором фиксированном уровне значимости <tex>\alpha</tex> (примем <tex>\alpha=0.05</tex>), оценкой мощности будет отношение <tex>m/k.</tex>
 Необходимо сдать: выполненный в LaTex или Microsoft Word отчёт с описанием алгоритма, построенными графиками и '''выводами (объяснение полученных результатов моделирования, границы применимости критерия и т.д.)''', а также *.m-файл или R-скрипт, при запуске которого на экран выводятся графики, соответствующие имеющимся в отчёте.
@@ Строка 17: / Строка 17: @@
 Исследуем чувствительность классического двухвыборочного [[Критерий Стьюдента|критерия Стьюдента]] для проверки гипотезы однородности против [[Гипотеза сдвига|альтернативы сдвига]] при зашумлении выборок наблюдениями, взятыми из равномерного распределения.
-<tex>x^n \sim 0.9\cdot N(\mu_1,1)+ 0.1\cdot U\left[-5+\mu_1,5+\mu_1\right]</tex>&nbsp;— выборка длины <tex>n</tex> из смеси стандартного нормального <tex>N(\mu_1,1)</tex> и равномерного <tex>U\left[-5+\mu_1,5+\mu_1\right]</tex> распределений  с весами <tex>0.9</tex> и <tex>0.1</tex> соответственно (при генерации выборки используется случайный датчик&nbsp;— если его значение не превосходит <tex>0.9</tex>, то добавляем в выборку элемент, взятый из нормального распределения, иначе&nbsp;— элемент, взятый из равномерного). <br>
+<tex>x^n, \;\; x \sim 0.9\cdot N(\mu_1,1)+ 0.1\cdot U\left[-5+\mu_1,5+\mu_1\right]</tex>&nbsp;— выборка длины <tex>n</tex> из смеси стандартного нормального <tex>N(\mu_1,1)</tex> и равномерного <tex>U\left[-5+\mu_1,5+\mu_1\right]</tex> распределений  с весами <tex>0.9</tex> и <tex>0.1</tex> соответственно (при генерации выборки используется случайный датчик&nbsp;— если его значение не превосходит <tex>0.9</tex>, то добавляем в выборку элемент, взятый из нормального распределения, иначе&nbsp;— элемент, взятый из равномерного). <br>
-<tex>y^n \sim 0.9\cdot N(\mu_2,1)+ 0.1\cdot U\left[-5+\mu_2,5+\mu_2\right]</tex>&nbsp;— аналогичная выборка. <br>
+<tex>y^n, \;\; y \sim 0.9\cdot N(\mu_2,1)+ 0.1\cdot U\left[-5+\mu_2,5+\mu_2\right]</tex>&nbsp;— аналогичная выборка. <br>
-<tex>H_0\,:\; \mu_1=\mu_2,</tex>
+<tex>H_0\,:\; \mathbb{E}(x)=\mathbb{E}(y), \;\; H_1\,:\; \mathbb{E}(x)\neq\mathbb{E}(y).</tex>
-<tex>H_1\,:\; \mu_1\neq\mu_2.</tex>
 <tex>\mu_1=0, \;\; \mu_2=-2\,:\,0.01\,:\,2, \;\; n=15\,:\,5\,:\,200.</tex>
@@ Строка 31: / Строка 29: @@
 Изображение:Once_p.png|Значения достигаемого уровня значимости при однократной генерации выборок.
 Изображение:3000_p.png|Значения достигаемого уровня значимости, усрёднённые по 3000 экспериментам.
-Изображение:3000_pow.png|Значения эмпирических оценок мощности критерия при проведении 3000 экспериментов (<tex>\alpha=0.05</tex>).
+Изображение:3000_pow.png|Значения эмпирических оценок мощности критерия при проведении 3000 экспериментов <tex>(\alpha=0.05).</tex>
 </gallery>
-Во-первых, заметим, что однократная генерация выборок даёт достаточно нестабильные результаты, поэтому и необходимо усреднение по большому числу экспериментов.
+Заметим, что однократная генерация выборок даёт достаточно нестабильные результаты, не позволяя точно оценить границы области, где нулевая гипотеза отклоняется, поэтому и необходимо усреднение по большому числу экспериментов.
-Видно, что при достаточно большой разнице между средними и большом размере выборок наличие шума не мешает уверенно отклонять гипотезу однородности. Наоборот, когда разница между средними невелика (меньше 0.2-0.5 в зависимости от размера выборок), мощность близка к нулю, а средний достигаемый уровень значимости колеблется около 0.5, что логично, так как его распределение при справедливости нулевой гипотезы равномерно на <tex>[0,1]</tex>.
+Видно, что при достаточно большой разнице между средними и большом размере выборок наличие шума не мешает уверенно отклонять гипотезу однородности. Когда, наоборот, разница между средними невелика (меньше 0.2-0.5 в зависимости от размера выборок), мощность близка к нулю, а среднее значение достигаемого уровня значимости колеблется около 0.5, что логично, так как его распределение при справедливости нулевой гипотезы равномерно на <tex>[0,1]</tex>.
 Чтобы оценить вклад зашумления выборок, оценим при всех значениях параметра мощность критерия и средний достигаемый уровень значимости на аналогичных выборках без шума и сравним результаты.
@@ Строка 51: / Строка 49: @@
 === Анализ чувствительности критериев к редактированию выборки===
 Известно, что исключение из выборки определённых наблюдений зачастую может достаточно сильно повлиять на результат анализа. Необходимо исследовать чувствительность указанного критерия к редактированию выборки, построить графики, сделать выводы.
+На каждом шаге генерируются выборки  исходной длины, проводится проверка гипотезы <tex>H_0</tex>, затем по некоторому правилу из указанной выборки исключается один из элементов, проверка гипотезы повторяется, затем исключается ещё один, и&nbsp;т.д. Обозначим за <tex>k</tex> максимальное число исключённых в таком процессе элементов; примем во всех задачах  <tex>k=50</tex>.
 * Двухвыборочный [[критерий Стьюдента]] для связных выборок.
+<tex>x^n,\;\; x \sim N(0,1),<br> y^n=x^n+z^n, \;\; z \sim N(\mu,\sigma^2),</tex><br>
+<tex>H_0\,:\; \mathbb{E}(x)=\mathbb{E}(y), \;\; H_1\,:\; \mathbb{E}(y)> \mathbb{E}(x).</tex> <br>
+::Студент 1: <tex>n=100,\;\;\sigma=1,\;\;\mu=-1\,:\,0.01\,:\,1,\;\;</tex> на каждом шаге исключается пара наблюдений <tex>x_i, y_i,</tex> разность которых максимальна.
+::Студент 2: <tex>n=150,\;\;\sigma=2,\;\;\mu=-1\,:\,0.01\,:\,1,\;\;</tex> на каждом шаге исключается пара наблюдений <tex>x_i, y_i,</tex> разность которых минимальна.
 * [[Критерий Уилкоксона-Манна-Уитни]] для независимых выборок.
+<tex>x^n,\;\; x \sim N(0,1), <br> y^n, \;\; y \sim N(\mu,\sigma^2),</tex> <br>
+<tex>H_0\,:\; \mathbb{E}(x)=\mathbb{E}(y), \;\; H_1\,:\; \mathbb{E}(y)> \mathbb{E}(x).</tex> <br>
+::Студент 3: <tex>n=100,\;\;\sigma=1,\;\;\mu=-1\,:\,0.01\,:\,1,\;\;</tex> на каждом шаге исключается максимальный элемент выборки <tex>y^n</tex>.
+::Студент 4: <tex>n=150,\;\;\sigma=2,\;\;\mu=-1\,:\,0.01\,:\,1,\;\;</tex> на каждом шаге исключается максимальный элемент выборки <tex>x^n</tex>.
+::Студент 5: <tex>n=200,\;\;\sigma=4,\;\;\mu=-1\,:\,0.01\,:\,1,\;\;</tex> на каждом шаге исключается минимальный элемент выборки <tex>x^n</tex>.
 * [[Критерий Фишера]] для проверки равенства дисперсий.
+<tex>x^n, \;\; x \sim N(0,1), <br> y^n, \;\; y \sim N(0,\sigma^2), </tex> <br>
+<tex>H_0\,:\; var(x)=var(y), \;\; H_1\,:\; var(y)> var(x).</tex> <br>
+::Студент 6: <tex>n=100,\;\;\sigma=0.01\,:\,0.01\,:\,2,\;\;</tex> на каждом шаге исключается максимальный по модулю элемент выборки <tex>y^n</tex>.
+::Студент 7: <tex>n=200,\;\;\sigma=0.01\,:\,0.01\,:\,2,\;\;</tex> на каждом шаге исключается минимальный по модулю элемент выборки <tex>y^n</tex>.
+::Студент 8: <tex>n=100,\;\;\sigma=0.01\,:\,0.01\,:\,2,\;\;</tex> на каждом шаге исключается максимальный элемент выборки <tex>y^n</tex>.
+::Студент 9: <tex>n=200,\;\;\sigma=0.01\,:\,0.01\,:\,2,\;\;</tex> на каждом шаге исключается минимальный элемент выборки <tex>y^n</tex>.
+=== Устойчивость критериев к нарушению предположения нормальности ===
+Исследовать поведение параметрических критериев, предполагающих нормальность данных, при зашумлении выборок наблюдениями, взятыми из равномерного распределения.
+* Двухвыборочный [[критерий Стьюдента]] для связных выборок
+<tex>x^n, \;\; x \sim N(0,1),</tex><br>
+<tex>y^n=x^n+z^n, \;\; z \sim p\cdot N(\mu,\sigma^2) + \left(1-p\right)\cdot U\left[-a+\mu, a+\mu\right]</tex>&nbsp;— связанная с ней выборка, полученная добавлением компоненты <tex>z</tex> из смеси нормального <tex>N(\mu,\sigma^2)</tex> и равномерного <tex>U[-a+\mu,a+\mu]</tex> распределений с весами <tex>p</tex> и <tex>1-p</tex> соответственно (при генерации выборки используется случайный датчик&nbsp;— если его значение не превосходит <tex>p</tex>, то добавляем в выборку элемент, взятый из нормального распределения, иначе&nbsp;— элемент, взятый из равномерного),<br>
+<tex>H_0\,:\; \mathbb{E}(x)=\mathbb{E}(y), \;\; H_1\,:\; \mathbb{E}(x)\neq \mathbb{E}(y).</tex> <br>
+::Студент 10: <tex>a=1, \;\; n=100, \;\; \sigma=0.5, \;\; p=0\,:\,0.01\,:\,1, \;\; \mu=0\,:\,0.03\,:\,3. </tex>
+::Студент 11: <tex>a=3, \;\; n=100, \;\; \sigma=0.5, \;\; p=0\,:\,0.01\,:\,1, \;\; \mu=0\,:\,0.03\,:\,3. </tex>
+::Студент 12: <tex>a=3, \;\; n=100, \;\; \sigma=0.01\,:\,0.01\,:\,1, \;\; p=0.8, \;\; \mu=0\,:\,0.03\,:\,3. </tex>
+* [[Критерий Фишера]] для проверки равенства дисперсий.
+<tex>x^n, \;\; x \sim p_1\cdot N(0,\sigma_1^2)+ \left(1-p_1\right)\cdot U\left[-a,a\right]</tex>&nbsp;— выборка длины <tex>n</tex> из смеси нормального <tex>N(0,\sigma_1^2)</tex> и равномерного <tex>U[-a,a]</tex> распределений с весами <tex>p_1</tex> и <tex>1-p_1</tex> соответственно (при генерации выборки используется случайный датчик&nbsp;— если его значение не превосходит <tex>p_1</tex>, то добавляем в выборку элемент, взятый из нормального распределения, иначе&nbsp;— элемент, взятый из равномерного), <br>
+<tex>y^n,\;\; y \sim p_2\cdot N(0,\sigma_2^2)+ \left(1-p_2\right)\cdot U\left[-a,a\right]</tex>&nbsp;— аналогичная выборка,<br>
+<tex>H_0\,:\; var(x)=var(y), \;\; H_1\,:\; var(x)\neq var(y),</tex> <br>
+<tex>\sigma_1=2, \;\; \sigma_2=0.1\,:\,0.05\,:\,4.</tex> <br>
+::Студент 13: <tex>p_1=p_2=0.8, \;\; a=2, \;\; n=15\,:\,5\,:\,200.</tex>
+::Студент 14: <tex>p_1=p_2=0\,:\,0.01\,:\,1, \;\; a=2, \;\; n=150.</tex>
+::Студент 15: <tex>p_1=p_2=0\,:\,0.01\,:\,1, \;\; a=3, \;\; n=100.</tex>
+=== Анализ поведения разновидностей [[критерий Стьюдента|критерия Стьюдента]] ===
+Критерий Стьюдента может явно учитывать дополнительную информацию о дисперсии выборок и их структуре. Необходимо исследовать, какой выигрыш даёт эта информация, сравнив мощности и средние достигаемые уровни значимости вариантов критериев при различных значениях параметров. <br>
+<tex>H_0\,:\; \mathbb{E}(x)=\mathbb{E}(y), \;\; H_1\,:\; \mathbb{E}(x)\neq\mathbb{E}(y).</tex> <br>
+* Парный критерий Стьюдента и версия для независимых выборок и неизвестных неравных дисперсий.
+<tex>x^n,\;\; x \sim N(0,1), <br> y^n = x^n + z^n, \;\; z\sim N(\mu,\sigma^2).</tex><br>
+::Студент 16: <tex>\sigma=1, \;\; \mu=-2\,:\,0.01\,:\,2, \;\; n=5\,:\,1\,:\,100.</tex>
+::Студент 17: <tex>\sigma=0.01\,:\,0.01\,:\,2, \;\; \mu=-2\,:\,0.01\,:\,2, \;\; n=100.</tex>
+* Критерий Стьюдента для независимых выборок, версии для неизвестных и известных неравных дисперсий.
+<tex>x^n,\;\; x \sim N(0,1), <br> y^n, \;\; y \sim N(\mu,\sigma^2).</tex><br>
+::Студент 18: <tex>\sigma=0.01\,:\,0.01\,:\,2, \;\; \mu=-2\,:\,0.01\,:\,2, \;\; n=50.</tex>
+::Студент 19: <tex>\sigma=0.01\,:\,0.01\,:\,2, \;\; \mu=0.5, \;\; n=5\,:\,1\,:\,100.</tex>
+* Парный критерий Стьюдента и версия для независимых выборок и известных неравных дисперсий.
+<tex>x^n, \;\; x \sim N(0,1), <br> y^n = x^n + z^n, \;\; z\sim N(\mu,\sigma^2)</tex><br>
+(cогласно свойствам нормального распределения, <tex>var\left(y\right)=\sigma^2+1</tex>.)
+::Студент 20: <tex>\sigma=1, \;\; \mu=-2\,:\,0.01\,:\,2, \;\; n=5\,:\,1\,:\,100.</tex>
+::Студент 21: <tex>\sigma=0.01\,:\,0.01\,:\,2, \;\; \mu=-2\,:\,0.01\,:\,2, \;\; n=100.</tex>
+= Задание 2. Анализ реальных данных  =
+Ниже приведены описания анализируемых данных и постановки задач. Сами данные каждый студент может получить по электронной почте после сдачи первого задания. При проведении анализа можно пользоваться любыми доступными программными средствами. Необходимо предоставить подробный письменный отчёт по проведённому исследованию, содержащий выводы и описания каждого этапа анализа&nbsp;— используемые методы, обоснование их применимости, промежуточные результаты вычислений, графики. Помимо выводов, касающихся математических особенностей решения, необходимо включить в отчёт заключения, сформулированные в терминах предметной области, которые могли бы быть понятны гипотетическому заказчику-нематематику.
+Cдача задания является необходимым условием получения допуска к экзамену&nbsp;—  студенты, не получившие зачёт к моменту сдачи экзамена, не смогут его сдавать, и должны будут выполнить задание к пересдаче.
+=== Относительная минеральная плотность позвоночника ===
+У 261 испытуемых в возрасте от 5 до 26 лет от одного до трёх раз была измерена относительная минеральная плотность позвоночника; всего имеется 485 измерений. Приведены также данные о поле каждого испытуемого.
+::Студент 17: построить функцию, предсказывающую относительную минеральную плотность позвоночника по полу и возрасту.
+::Студент 1: проанализировать различия по относительной минеральной плотности между испытуемыми мужского и женского пола, исключив возможное влияние возраста.
+::Студент 7: исследовать различия между испытуемыми, для которых имеется только одно, два или три измерения.
+=== Вкус и химический состав сыра чеддер ===
+разновидностей сыра чеддер было проанализировано как с точки зрения химического состава, так и с помощью дегустаторов. Для каждой разновидности известны: оценка вкуса, полученная путём усреднения оценок, выставленных несколькими дегустаторами, логарифмы концентраций уксусной кислоты и сульфида водорода, концентрация молочной кислоты.
+::Студент 15: построить функцию, по химическому составу сыра предсказывающую его оценку дегустаторами и границы доверительного интервала для неё.
+::Студент 5: построить функцию, позволяющую по оценке вкуса и логарифмам концентраций уксусной кислоты и сульфида водорода восстанавливать концентрацию молочной кислоты.
+=== Клетки опухолей груди ===
+[[Изображение:92_6682.gif‎|200px|thumb|Гистохимия пунктата злокачественной опухоли.]]
+испытуемым с доброкачественными и 212 со злокачественными опухолями груди была сделана тонкоигольная аспирационная пункция с гистологическим исследованием пунктата. По полученным изображениям определялись следующие признаки опухолевых клеток: радиус, однородность текстуры, периметр, площадь, гладкость, компактность, степень вогнутости, доля вогнутых участков контура, симметричность, фрактальная размерность. Для каждого изображения были рассчитаны среднее значение каждого из этих признаков, стандартное отклонение и среднее по трём клеткам с максимальным значением признака.
+::Студент 9: оценить вероятность того, что опухоль злокачественная, по набору рассчитанных по изображению признаков. Построить функции, дающие точечную оценку и границы 95% доверительного интервала.
+=== Пассажиры Титаника ===
+Приведены данные о 1309 пассажирах Титаника. Для каждого пассажира указано имя, пол, возраст, класс и цена билета, число родственников на борту, и, кроме того, удалось ли ему выжить.
+::Студент 6: по каким признакам отличаются выжившие пассажиры от погибших?
+::Студент 8: построить функции, предсказывающие вероятность выживания пассажира по имеющимся данным и границы доверительного интервала для неё.
+=== Концентрация озона ===
+Имеются данные измерений состояния атмосферы, произведённых в Нью-Йорке в течение 111 подряд идущих дней. Измерены температура воздуха, скорость ветра, уровень солнечной радиации и концентрация озона.
+::Студент 2: построить прогноз состояния атмосферы на следующие 10 дней.
+::Студент 10: построить функцию, по имеющимся признакам оценивающую наиболее вероятное значение концентрации озона и доверительный интервал для него.
+::Студент 16: построить функцию, по имеющимся признакам оценивающую наиболее вероятное значение уровня солнечной радиации и доверительный интервал для него.
+=== Солнечная активность===
+В центре исследования солнечной активности Цюрихской обсерватории собраны данные о среднем числе солнечных пятен за каждый месяц с января 1749 года.
+::Студент 3: предсказать среднее число солнечных пятен на каждый месяц до конца 2020 года.
+=== Стоимость подержанных автомобилей ===
+Имеются данные о стоимости 804 подержанных автомобилей и их характеристиках: известны пробег, производитель, модель, вид модели, тип кузова, число цилиндров, объём двигателя, число дверей, а также наличие или отсутствие круиз контроля, продвинутой звуковой системы и кожаной обивки сидений.
+::Студент 4: построить модель стоимости автомобиля по данному набору признаков.
+::Студент 11: исследовать взаимосвязи между признаками, сравнить распределения признаков в группах, образуемых разбиениями по дискретным признакам.
+=== Продолжительность жизни и активность размножения самцов дрозофилы ===
+Для изучения влияния активности размножения самцов дрозофилы на продолжительность их жизни был организован следующий эксперимент. По 25 самцов в пяти группах содержались в одинаковых условиях, за исключением одного отличия: в первой группе к каждому самцу ежедневно подсаживалась готовая к размножению самка, во второй – восемь готовых к размножению самок, в третьей и четвёртой - соответственно, одна и восемь беременных самок, не готовых к размножению, наконец, к самцам четвёртой группы не подсаживали никого. Для каждого самца измерена продолжительность жизни, длина грудной клетки и доля времени, проводимого во сне.
+::Студент 20: сравнить продолжительность жизни самцов в разных группах.
+::Студент 21: построить функцию, предсказывающую продолжительность жизни самца дрозофилы в зависимости от условий его содержания.
+=== Массовая доля жира в организме ===
+Массовая доля жира, важная характеристика здоровья, рассчитывается через плотность тела, измеряемую при помощи взвешивания в воде. Для 252 мужчин проведены такие расчёты. Имеются также данные антропометрии (возраст, рост, вес, обхват грудной клетки и т.д.)
+::Студент 13: построить функцию, оценивающую массовую долю жира по легко измеряемым антропометрическим признакам.
+::Студент 14: построить функцию, оценивающую индекс ожирения без использования данных взвешивания.
+=== Диета цыплят ===
+Для 50 цыплят, разбитых на 4 группы по типу диеты, имеются результаты взвешивания в возрасте от 0 до 21 дней; пропущенные значения соответствуют умершим цыплятам.
+::Студент 12: сравнить эффективность различных типов диеты.
+=== Посещаемость сервиса "Яндекс.Открытки"===
+Измерена месячная аудитория сервиса "Яндекс.Открытки" с мая 2008 по сентябрь 2011 г.
+::Студент 19: предсказать месячную аудиторию на период с октября 2011 по июнь 2012 г.
+=== Краш-тест с манекенами===
+Имеются результаты 352 краш-тестов, при которых происходило лобовое столкновение автомобилей с бетонной стеной на скорости около 60 км/ч. Измерены показатели повреждения манекенов: критерий тяжести повреждений головы, замедление грудной клетки, нагрузка на левое и правое бедро.
+::Студент 18: исследовать зависимость показателей повреждения от типа кузова, вида средств защиты, места манекена, веса автомобиля.
+= Литература =
+''Кобзарь А. И.'' Прикладная математическая статистика. — М.: Физматлит, 2006.
+= Ссылки =
+* [[Статистический анализ данных (курс лекций, К.В.Воронцов)]]
+* [[Участник:Riabenko|Контактная информация, необходимая для сдачи задания]]
-=== Устойчивость критериев к нарушению предположений ===
+[[Категория:Учебные курсы]]
-=== Анализ поведения схожих критериев ===