Статистический анализ данных (курс лекций, К.В.Воронцов)/2009
Материал из MachineLearning.
Задание 1. Исследование статистических критериев на модельных данных
Необходимо провести исследование одного из классических критериев проверки статистических гипотез. Интерес представляет поведение достигаемого уровня значимости (p-value) как функции размера выборок и параметров распределения. В соответствии с индивидуальными параметрами задания необходимо сгенерировать одну или несколько выборок из указанного распределения, выполнить проверку гипотезы при помощи соответствующего критерия, а затем многократно повторить эту процедуру для различных значений параметров. При этом, в зависимости от индивидуальных особенностей задания, выборки могут как генерироваться заново для каждого значения объёма выборки , так и образовываться путём добавления одного элемента к уже имеющейся выборке объёма . По результатам расчётов необходимо построить следующие графики:
- график зависимости достигаемого уровня значимости от значений параметров при однократном проведении эксперимента (1 балл);
- график зависимости достигаемого уровня значимости от значений параметров, усреднённого по нескольким десяткам экспериментов (+1 балл);
- график с эмпирическими оценками мощности критерия для разных значений параметров (+1 балл).
В качестве оценки мощности принимается доля отвержений нулевой гипотезы среди всех проверок. То есть, если эксперимент повторялся раз для каждого набора значений параметра, и в из случаев гипотеза была отвергнута на некотором фиксированном уровне значимости (примем ), оценкой мощности будет отношение .
Необходимо сдать: выполненный в LaTex или Microsoft Word отчёт с описанием алгоритма, построенными графиками и выводами, *.m-файл.
Пример выполнения задания
Исследуем поведение классического двухвыборочного критерия Стьюдента для проверки гипотезы однородности против альтернативы сдвига.
Параметры задачи принимают следующие значения:
При каждом значении выборки для разных значений генерируются независимо.
График значений достигаемого уровня значимости при однократной генерации выборок:
График значений достигаемого уровня значимости, усрёднённых по 100 экспериментам:
График значений эмпирических оценок мощности критерия при проведении 100 экспериментов:
Индивидуальные параметры задания
Одновыборочный критерий Стьюдента
Безродный Богдан
При каждом значении выборки для разных значений генерируются независимо.
Двойнев Александр
При каждом значении выборка получается из добавлением одного случайного элемента.
Двухвыборочный критерий Стьюдента для независимых выборок
Коликова Екатерина
при каждом значении выборки получаются из добавлением одного случайного элемента.
Черняев Константин
при каждом значении выборки для разных значений генерируются независимо.
Задонский Дмитрий
при каждом значении выборки получаются из добавлением одного случайного элемента.
Ломакин Василий
при каждом значении выборки для разных значений генерируются независимо.
Гуков Алексей
при каждом значении выборки получаются из добавлением одного случайного элемента.
Решетняк Илья
при каждом значении выборки для разных значений генерируются независимо.
Двухвыборочный критерий Стьюдента для связных выборок (случай парных повторных наблюдений)
Дзыба Дмитрий
При каждом значении выборки для разных значений генерируются независимо.
Осокин Антон
При каждом значении выборки получаются из добавлением одного случайного элемента.
Одновыборочный критерий Уилкоксона
Задонский Максим
при каждом значении выборки для разных значений генерируются независимо.
Карпинская Алина
при каждом значении выборка получается из добавлением одного случайного элемента.
Нарышкин Андрей
при каждом значении выборки для разных значений генерируются независимо.
Вишняков Святослав
при каждом значении выборка получается из добавлением одного случайного элемента.
Двухвыборочный критерий Уилкоксона для связных выборок (случай парных повторных наблюдений)
Гикал Александр
при каждом значении выборки для разных значений генерируются независимо.
Ломакина-Румянцева Екатерина
при каждом значении выборки получаются из добавлением одного случайного элемента.
Джумабекова Айнагуль
при каждом значении выборки для разных значений генерируются независимо.
Мягков Артем
при каждом значении выборки получаются из добавлением одного случайного элемента.
Критерий Краскелла-Уоллиса для независимых выборок
Ахламченкова Ольга
при каждом значении выборки для разных значений генерируются независимо.
Голодов Валентин
при каждом значении выборки для разных значений генерируются независимо.
Алимбаев Данияр
при каждом значении выборки получаются из добавлением одного случайного элемента.
Критерий Колмогорова-Смирнова для проверки нормальности
- смесь распределений и с весами и соответственно. При генерации выборки используется случайный датчик - если его значение не превосходит , то добавляем в выборку элемент, взятый из нормального распределения, иначе - элемент, взятый из равномерного;
При каждом значении параметров выборки для разных значений генерируются независимо.
Толстихин Илья
Янгиров Ильдар
Критерий хи-квадрат Пирсона для проверки нормальности
- смесь распределений и с весами и соответственно. При генерации выборки используется случайный датчик - если его значение не превосходит , то добавляем в выборку элемент, взятый из нормального распределения, иначе - элемент, взятый из равномерного;
При каждом значении параметров выборки для разных значений генерируются независимо.
Дерябин Василий
Одинокова Евгения
F-критерий Фишера для проверки равенства дисперсий
Аманжолов Рустем
при каждом значении выборки для разных значений генерируются независимо.
Пасконова Ольга
при каждом значении выборки получаются из добавлением одного случайного элемента.
Гордеев Дмитрий
при каждом значении выборки для разных значений генерируются независимо.
Найденов Никита
при каждом значении выборки получаются из добавлением одного случайного элемента.
Задание 2. Анализ реальных данных
Ниже приведены описания анализируемых данных и постановки задач. Сами данные каждый студент может получить по электронной почте сразу после сдачи первого задания.
Интеллект и размер головного мозга
Исследование проводилось среди студентов психологического факультета крупного университета. Все испытуемые должны были быть правшами, а также не иметь повреждений мозга, эпилепсии, алкоголизма и сердечных заболеваний. Участники предварительного этапа эксперимента прошли несколько IQ-тестов, после чего для дальнейшего участия было отобрано 20 мужчин и 20 женщин, имевших коэффециент интеллекта от 103 до 130 баллов. Для каждого из них при помощи магнитно-резонансной томографии были получены 18 снимков срезов головного мозга, и общее количество пикселей на всех 18 снимках было принято в качестве меры объёма мозга. Помимо этого, были собраны данные о росте и массе тела испытуемых.
Толстихин Илья
Проверить наличие взаимосвязи между интеллектом и объёмом головного мозга для всех испытуемых, независимо от пола, затем провести аналогичный анализ отдельно для мужчин и женщин. Исследовать ту же зависимость, исключив влияние факторов роста и массы тела.
Осокин Антон
Проанализировать, какие из факторов значимо влияют на объём головного мозга. Проверить, по какой из двух групп факторов можно предсказывать объём головного мозга с большей уверенностью - по результатам тестов интеллекта, или по полу, росту и весу.
Продолжительность жизни больных онкологическими заболеваниями
Выборка состоит из 64 пациентов, у которых был диагностирован неизлечимый рак какого-либо органа. Всем им в качестве поддерживающей терапии был назначен к приёму витамин C (считалось, что он может способствовать выздоровлению раковых больных). Приведены данные об остаточной продолжительности жизни пациентов в днях.
Черняев Константин
Требуется проверить, отличается ли остаточная продолжительность жизни в зависимости от того, какой орган поражён раковой опухолью. Оценить остаточную продолжительность жизни в каждой из групп (построить точечные, интервальные оценки).
Внешний вид и привлекательность самок мечехвостов
Изучалось влияние внешних характеристик самок морских ракообразных мечехвостов на их привлекательность для самцов. Выборка состоит из данных о наблюдениях над 173 особями и содержит закодированные данные о размере самок, их весе, цвете, состоянии панциря, а также о количестве спутников.
Одинокова Евгения
Построить функцию, по внешним параметрам самки предсказывающую, будет ли у неё хотя бы один спутник. Оценить значимость каждого фактора.
Ломакин Василий
Построить функцию, по внешним параметрам самки предсказывающую количество спутников у самки. Оценить значимость каждого фактора.
Засеивание облаков и уровень осадков
Исследовалось воздействие засеивания облаков на обилие дождей. Измерения проводились в течение 108 периодов на пяти участках земли в Тасмании - участки обозначены в файле как западный, восточный, южный, северный и северо-восточный. В выборке содержатся данные об уровне осадков (в миллиметрах) на каждом из пяти участков, о времени года, к которому относится период, и о том, проводилось ли засеивание.
Решетняк Илья
Проверить, как засеивание облаков повлияло на уровень осадков в целом по всей выборке. Сделать также выводы об эффективности засеивания отдельно по каждому времени года.
Задание 3. Написание или доработка wiki-статей
Некоторые рекомендации
— К.В.Воронцов 02:14, 14 ноября 2009 (MSK) |
Статьи, нуждающиеся в доработке
Некоторые рекомендации
— К.В.Воронцов 02:14, 14 ноября 2009 (MSK) |
- Гипотеза сдвига: список ссылок на статьи по всем параметрическим и непараметрическим критериям, проверяющим гипотезу сдвига
- Метод LSD: описать пример более подробно, найти ещё три-четыре примера применения, добавить более точные ссылки
- Критерий Фишера: примеры и более точные ссылки
- Критерий Краскела-Уоллиса: больше интересных примеров и более точные ссылки
- Критерий Джонкхиера: больше интересных примеров и более точные ссылки
- Медианный критерий: оформить аналогично остальным статьям по критериям
- Частная корреляция: хороших материалов по этой теме гораздо больше, чем давалось на лекции, хотелось бы найти побольше примеров и контрпримеров из практических задач
- Конкордация Кенделла: статья оформлена небрежно, надо улучшать изложение, поподробнее описать пример и найти ещё примеры задач
- Критерий Фишера: на самом деле критериев Фишера есть много разных, в данной статье никак не затронут критерий Фишера для выбора значимого набора признаков в линейной регрессии.
- Шаговая регрессия: тема очень обширная, нужно добавлять примеры, описание алгоритмов, ссылки на алгоритм Фюрнкранца и т.д... есть много источников на русском
- Непараметрическая регрессия: конкретизировать, добавить примеры, ссылки на методы
- Алгоритм LOWESS: статья оформлена небрежно, имеются указания по её доработке
- Скользящий контрольный сигнал: добавить ссылок на другие разделы по адаптивным методам прогнозирования временных рядов
- Ротационная панель: статья не доработана, материалы по данной теме есть в некоторых учебниках эконометрики последних лет
Новые статьи
- Однофакторная параметрическая модель
- Однофакторная непараметрическая модель
- Двухфакторная непараметрическая модель
- Двухфакторный нормальный анализ
- Робастность=Робастное оценивание
- Вложенные модели линейной регрессии
- Адаптация параметров адаптации
- Простой случайный выбор
- Пропорциональный выбор
- Стратификация
Статьи о группах методов или критериев
Некоторые рекомендации
— К.В.Воронцов 02:14, 14 ноября 2009 (MSK) |
- Параметрические статистические тесты
- Непараметрические статистические тесты
- Дисперсионный анализ: общие определения, примеры задач и перечень методов (в виде списка ссылок)
- Многомерная линейная регрессия: статья явно куцая для такой обширной темы, туда нужно дописать: статистические свойства МНК-оценок при предположении нормальности; доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозного значения отклика
- Выборочный анализ
- Выборочный контроль качества
- Критерии нормальности=Критерий нормальности: общие определения, примеры задач и перечень критериев (в виде списка ссылок), желательно привести сравнительную таблицу мощностей критериев нормальности из Кобзаря
- Критерии однородности=Критерий однородности: общие определения, примеры задач и перечень критериев (в виде списка ссылок)
- Критерии согласия=Критерий согласия: общие определения, примеры задач и перечень критериев (в виде списка ссылок)
- Ранговые критерии=Ранговый критерии: общие определения и перечень критериев (в виде списка ссылок)
- Адаптивные методы прогнозирования временных рядов=Адаптивные методы краткосрочного прогнозирования: список ссылок на методы, на основе книги Лукашина
Статьи о критериях
Некоторые рекомендации
У многих статей о критериях, не перечисленных ниже, не хватает графика функции распределения статистики с выделенной критической областью, пример как это сделано в статье Критерий хи-квадрат. Добавление в них картинок тоже поощряется! — К.В.Воронцов 02:14, 14 ноября 2009 (MSK) |
Статьи о распределениях
Некоторые рекомендации
Эти статьи есть в Большой Википедии. Работа по переносу контента тоже нужная, но нетрудная и потому оценивается невысоко — К.В.Воронцов 02:14, 14 ноября 2009 (MSK) |
- Распределение Фишера
- Распределение хи-квадрат
- Распределение Стьюдента
- Нормальное распределение=Гауссовское распределение=Многомерное нормальное распределение=Одномерное нормальное распределение, Нормальная выборка
Распределение статей по студентам
Ломакин Василий
- Коэффициент корреляции Кенделла, Коэффициент корреляции Спирмена: в этих двух статьях остро не хватает примеров
- Анализ регрессионных остатков: нужны примеры задач, иллюстрации к визуальному анализу, аккуратный список статистических тестов, которые могут использоваться для анализа регрессионных остатков
- Критерий Уилкоксона двухвыборочный
- Критерий Уилкоксона для связных выборок
Толстихин Илья
- Эмпирическое распределение : новая статья
- Ковариационный анализ: аккуратнее написать постановки задач, найти интересные примеры приложений, добавить перечень критериев (в виде списка ссылок)
- Непараметрическая регрессия: ядерное сглаживание: статья оформлена небрежно, имеются указания по её доработке
- Критерий Лемана-Розенблатта (на лекции не рассказывался)
Пасконова Ольга
- Двухфакторная непараметрическая модель: новая статья
- Дисперсионный анализ: общие определения, примеры задач и перечень методов (в виде списка ссылок)