Статистический анализ данных (курс лекций, К.В.Воронцов)/2013, ФУПМ
Материал из MachineLearning.
м (→Задания) |
м |
||
Строка 158: | Строка 158: | ||
=== Пожертвования на благотворительность === | === Пожертвования на благотворительность === | ||
Благотворительная организация разослала 4268 писем с предложением сделать пожертвование и получила отклик с пожертвованиями от 1707 адресатов. Для каждого адресата известны: индикатор ответа на предыдущее письмо, число недель, прошедших с момента предыдущего пожертвования, размеры текущего, предыдущего и среднего по всем предыдущим пожертвованиям в голландских гульденах, число писем, отправляемых адресату в год, доля писем, в ответ на которые приходят пожертвования. | Благотворительная организация разослала 4268 писем с предложением сделать пожертвование и получила отклик с пожертвованиями от 1707 адресатов. Для каждого адресата известны: индикатор ответа на предыдущее письмо, число недель, прошедших с момента предыдущего пожертвования, размеры текущего, предыдущего и среднего по всем предыдущим пожертвованиям в голландских гульденах, число писем, отправляемых адресату в год, доля писем, в ответ на которые приходят пожертвования. | ||
- | :: | + | ::Бочкарева: построить функцию, оценивающую вероятность получения пожертвования от адресата по историческим данным. |
- | :: | + | ::Адуенко: построить функцию, оценивающую вероятный размер пожертвования от адресата по историческим данным. |
=== Влияние глифосата на рост плевел === | === Влияние глифосата на рост плевел === |
Версия 13:12, 20 апреля 2013
Оценки
Студент | #1 (2 балла) | #2 (3 балла) | Рецензирование #2 (1 балл) | #3 (3 балла) | Рецензирование #3 (1 балл) | Участие в семинаре | Сумма |
---|---|---|---|---|---|---|---|
Адуенко Александр | 2 | 2 | |||||
Бочкарева Валерия | 1.9 | ||||||
Варфоломеева Анна | 1.9 | ||||||
Глебов Антон | 2 | ||||||
Ефимов Кирилл | 2 | ||||||
Иванова Алина | 1.8 | ||||||
Клочков Егор | |||||||
Кузьмин Арсентий | 2 | ||||||
Лобастов Степан | 2 | ||||||
Медведникова Мария | 2 | ||||||
Стенин Сергей | 2 | ||||||
Смоляков Дмитрий | |||||||
Целых Влада | 2 | ||||||
Цыганова Светлана | 2 | ||||||
Шпакова Татьяна | 2 | ||||||
Шульга Александр |
- Штраф за просрочку сдачи заданий начисляется из расчета 0.1 балла за сутки.
- Задание считается сданным на момент получения проверяющим письма с отчётом (и кодом, если это указано в задании), при условии отсутствия необходимости внесения дополнений и исправлений.
Задание 1. Исследование свойств одномерных статистических критериев на модельных данных
Необходимо провести исследование одного или нескольких классических критериев проверки статистических гипотез. Интерес представляет поведение достигаемого уровня значимости (p-value) как функции размера выборок и параметров распределения. В соответствии с индивидуальными параметрами задания необходимо указанным способом сгенерировать одну или несколько выборок из заданного распределения, выполнить проверку гипотезы при помощи соответствующего критерия, а затем многократно повторить эту процедуру для различных значений параметров. По результатам расчётов необходимо построить требуемые в задании графики, среди которых могут быть следующие:
- график зависимости достигаемого уровня значимости от значений параметров при однократном проведении эксперимента;
- график зависимости достигаемого уровня значимости одного или двух критериев от значений параметров, усреднённого по большому количеству повторений эксперимента (например, по 1000 повторений);
- график с эмпирическими оценками мощности одного или двух критериев для разных значений параметров.
В качестве оценки мощности принимается доля отвержений нулевой гипотезы среди всех проверок. То есть, если эксперимент повторялся раз для каждого набора значений параметров, и в
из
случаев гипотеза была отвергнута на некотором фиксированном уровне значимости
(примем
), оценкой мощности будет отношение
Необходимо сдать: выполненный в Tex или Microsoft Word отчёт с описанием алгоритма, построенными графиками и выводами (объяснение полученных результатов моделирования, границы применимости критерия и т.д.), а также код на R, Матлабе или Питоне, при запуске которого на экран выводятся графики, соответствующие имеющимся в отчёте.
Задание принимается до 23:59 31.03.
Пример задания
Исследуем чувствительность классического двухвыборочного критерия Стьюдента для проверки гипотезы однородности против альтернативы сдвига при зашумлении выборок наблюдениями, взятыми из равномерного распределения.
— выборка длины
из смеси стандартного нормального
и равномерного
распределений с весами
и
соответственно (при генерации выборки используется случайный датчик — если его значение не превосходит
, то добавляем в выборку элемент, взятый из нормального распределения, иначе — элемент, взятый из равномерного).
— аналогичная выборка.
При каждом значении выборки для разных значений
генерируются независимо.
Заметим, что однократная генерация выборок даёт достаточно нестабильные результаты, не позволяя точно оценить границы области, где нулевая гипотеза отклоняется, поэтому и необходимо усреднение по большому числу экспериментов.
Видно, что при достаточно большой разнице между средними и большом размере выборок наличие шума не мешает уверенно отклонять гипотезу однородности. Когда, наоборот, разница между средними невелика (меньше 0.2-0.5 в зависимости от размера выборок), мощность близка к нулю, а среднее значение достигаемого уровня значимости колеблется около 0.5, что логично, так как его распределение при справедливости нулевой гипотезы равномерно на .
Чтобы оценить вклад зашумления выборок, оценим при всех значениях параметра мощность критерия и средний достигаемый уровень значимости на аналогичных выборках без шума и сравним результаты.
Видно, что наличие шума всё меньше влияет на работу критерия с ростом объёма выборок и разницы между их средними. Тем не менее, в некоторых областях изменения параметров потеря мощности из-за 10% зашумления может составлять до 20%, а средний достигаемый уровень значимости может быть выше на 0.1.
Отметим, что приведённые количественные выводы справедливы только для шума рассматриваемой структуры.
Задания
Анализ поведения схожих критериев
Требуется исследовать поведение указанной пары статистических критериев, подходящих для решения одной и той же задачи, сравнить мощность и достигаемые уровни значимости и сделать выводы о границах применимости критериев. Необходимо для каждого из критериев построить графики зависимости достигаемых уровней значимости и оценок мощностей от параметров, и показать, в каких областях изменения параметров предпочтительнее использовать тот или иной критерий. Для получения более гладких графиков рекомендуется применять оба критерия к одним и тем же выборкам, а не генерировать их отдельно для каждого критерия.
-
выборки независимы,
неверна.
Чтобы сгенерировать коррелированные Бернуллиевские случайные величины, используется следующий метод[1]. Пусть— случайная величина, имеющая распределение Пуассона с параметром
. Обозначим
Искомую пару случайных величинможно получить следующим образом:
где квадратные скобки обозначают индикаторную функцию.
Метод работает придля случаев
генерируются выборки с корреляцией
после чего одна из выборок инвертируется (нули и заменяются на единицы и наоборот).
- Адуенко:
Сравнить критерий хи-квадрат и точный критерий Фишера.
- Бочкарева:
Сравнить G-критерий и точный критерий Фишера.
- Варфоломеева:
Сравнить G-критерий и критерий хи-квадрат.
- Адуенко:
- Ефимов: сравнить критерии, основанные на доверительных интервалах Вальда и Уилсона (нулевая гипотеза отвергается на уровне значимости 5%, если 95% доверительный интервал для параметра не содержит
).
- Ефимов: сравнить критерии, основанные на доверительных интервалах Вальда и Уилсона (нулевая гипотеза отвергается на уровне значимости 5%, если 95% доверительный интервал для параметра не содержит
-
среднее значение
равно нулю,
среднее значение
не равно нулю;
- Глебов: сравнить одновыборочные T- и Z-критерии.
- Иванова: сравнить одновыборочный T-критерий и критерий знаковых рангов Уилкоксона.
- Клочков: сравнить одновыборочный перестановочный критерий и критерий знаковых рангов Уилкоксона.
- Шульга: сравнить Z-критерий и одновыборочный перестановочный критерий для известной дисперсии.
-
дисперсии выборок равны,
дисперсии выборок не равны;
- Кузьмин:
Сравнить критерий Фишера и WM-критерий.
- Лобастов:
Сравнить WM-критерий и критерий Зигеля-Тьюки.
- Медведникова:
Сравнить критерий Фишера и критерий Зигеля-Тьюки.
- Стенин:
Сравнить WM-критерий и перестановочный критерий.
- Кузьмин:
-
— выборка длины
из смеси стандартного нормального
и равномерного
распределений с весами
и
соответственно (при генерации выборки используется случайный датчик — если его значение не превосходит
, то добавляем в выборку элемент, взятый из нормального распределения, иначе — элемент, взятый из равномерного).
распределение
нормально,
неверна;
- Смоляков:
Сравнить критерии Шапиро-Уилка и хи-квадрат.
- Целых:
Сравнить критерии Жарка-Бера и Шапиро-Уилка.
- Смоляков:
-
средние выборок равны,
средние выборок не равны;
- Цыганова:
Сравнить критерий Стьюдента для неизвестных равных дисперсий и двухвыборочный перестановочный критерий.
- Шпакова:
Сравнить критерий Аспина-Уэлша и двухвыборочный перестановочный критерий.
- Цыганова:
Задание 2. Анализ реальных данных
Ниже приведены описания анализируемых данных и постановки задач. При проведении анализа можно пользоваться любыми доступными программными средствами. Необходимо предоставить подробный письменный отчёт по проведённому исследованию, содержащий визуализацию исходных данных, описания и выводы каждого этапа анализа — используемые методы, обоснование их применимости, промежуточные результаты вычислений, графики. Особое внимание необходимо обращать на полноту применения методов. Помимо выводов, касающихся математических особенностей решения, необходимо включить в отчёт заключения, сформулированные в терминах предметной области, которые могли бы быть понятны гипотетическому заказчику-нематематику.
Отчёт каждого студента рецензируется назначенным одногруппником. Задачей рецензента является проверка корректности выбора метода решения, полноты его применения и понятности изложения. Рецензент получает баллы, если рецензируемая им работа была принята с первого раза, при условии, что его собственная работа также сдана.
Предварительные версии отчётов принимаются до 23:59 5.12, финальные, по результатам работы с рецензентом — до 23:59 15.12.
Задания
Массовая доля жира в организме
Массовая доля жира, важная характеристика здоровья, рассчитывается через плотность тела, измеряемую при помощи взвешивания в воде. Для 252 мужчин проведены такие расчёты. Имеются также данные антропометрии (возраст, рост, вес, обхват грудной клетки и т.д.)
- Студент 11: построить функцию, оценивающую массовую долю жира по легко измеряемым антропометрическим признакам.
- Студент 12: построить функцию, оценивающую индекс ожирения без использования данных взвешивания.
Надёжность шарикоподшипников
Мерой надёжности шарикоподшипников служит величина — максимальное число оборотов, которое выдерживает 90% одинаковых подшипников. Имеются данные измерений надёжности по шарикоподшипникам трёх производителей (для одного из производителей исследовано три вида подшипников), для каждого испытания указаны диаметр и число шаров в подшипнике, нагрузка и величина
.
- Студент 2: построить функцию, оценивающую
по имеющимся признакам, рассчитать точность оценки.
- Студент 2: построить функцию, оценивающую
Линейные размеры тысячефранковых банкнот
Имеются данные измерений двухсот швейцарских тысячефранковых банкнот, бывших в обращении в первой половине XX века. Сто из банкнот были настоящими, и сто — поддельными. Измерены следующие величины: — длина банкноты,
— ширина банкноты с левой стороны,
— ширина банкноты с правой стороны,
— расстояние от нижнего края до рамки рисунка,
— расстояние от нижнего края до рамки рисунка,
— длина диагонали рисунка.
- Студент 1: построить функцию, оценивающую вероятность того, что имеющаяся банкнота фальшивая, и доверительный интервал для неё. Какие группы признаков необходимы для этого? Каков наименьший набор признаков, позволяющий достаточно надёжно выявить фальшивую купюру?
Летальность пациентов с сепсисом
По 454 пациентам с сепсисом (лихорадка, тахикардия, тахипноэ и острая недостаточность по крайней мере одной системы органов) имеются следующие данные: оценка начального состояния по шкале APACHE острых и хронических функциональных изменений, факт наступления смерти в течение 30 дней после начала исследования (для каждого значения APACHE score приведены общее число пациентов в таком состоянии и соответствующее число пациентов, умерших в течение 30 дней).
- Студент 13: оценить вероятность наступления в 30-дневный срок летального исхода в зависимости от исходного состояния. Построить функции, дающие точечную оценку и границы 95% доверительного интервала.
Продолжительность жизни и активность размножения самцов дрозофилы
Для изучения влияния активности размножения самцов дрозофилы на продолжительность их жизни был организован следующий эксперимент. По 25 самцов в пяти группах содержались в одинаковых условиях, за исключением одного отличия: в первой группе к каждому самцу ежедневно подсаживалась готовая к размножению самка, во второй – восемь готовых к размножению самок, в третьей и четвёртой - соответственно, одна и восемь беременных самок, не готовых к размножению, наконец, к самцам четвёртой группы не подсаживали никого. Для каждого самца измерена продолжительность жизни, длина грудной клетки и доля времени, проводимого во сне.
- Студент 3: построить функцию, предсказывающую продолжительность жизни самца дрозофилы в зависимости от условий его содержания, дать интерпретацию вклада признаков.
Электрическая прочность диэлектрика
Была измерена электрическая прочность изоляции проводов на разных сроках их эксплуатации и при различной температуре. Известно, что зависимость электрической прочности диэлектрика от времени и температуры имеет вид .
- Студент 4: найти значения констант
построить для них доверительные области, оценить качество построенной модели.
- Студент 4: найти значения констант
Данные антропометрии
Для 247 мужчин и 260 женщин измерены две группы антропометрических показателей – легко измеримые характеристики скелета и обхваты, всего 21 признак. Указаны возраст, пол, вес и рост.
- Студент 5: построить функцию, эффективно оценивающую вес по наименьшему набору признаков; сравнить точность оценки веса при отсутствии информации по обхватам и отсутствии информации по характеристикам скелета.
- Студент 6: построить функцию, оценивающую по наименьшему набору признаков вероятность того, что испытуемый — женщина, и доверительный интервал для этой вероятности.
Пожертвования на благотворительность
Благотворительная организация разослала 4268 писем с предложением сделать пожертвование и получила отклик с пожертвованиями от 1707 адресатов. Для каждого адресата известны: индикатор ответа на предыдущее письмо, число недель, прошедших с момента предыдущего пожертвования, размеры текущего, предыдущего и среднего по всем предыдущим пожертвованиям в голландских гульденах, число писем, отправляемых адресату в год, доля писем, в ответ на которые приходят пожертвования.
- Бочкарева: построить функцию, оценивающую вероятность получения пожертвования от адресата по историческим данным.
- Адуенко: построить функцию, оценивающую вероятный размер пожертвования от адресата по историческим данным.
Влияние глифосата на рост плевел
Сравниваются два вида плевел, дикая разновидность и мутантная, выработавшая устойчивость к глифосату. Оба вида в равных пропорциях засеиваются в теплицу, проводится обработка глифосатом, по окончании эксперимента измеряются плотности зарастания (количество растений на единицу площади) дикой и мутантной
разновидностей. Целевой признак
- средняя биомасса дикой разновидности (в граммах на одно растение). Для него предложена следующая модель:
,
где коэффициент имеет смысл гипотетической средней биомассы при нулевой плотности зарастания,
– коэффициент внутривидовой конкуренции для дикой разновидности,
– коэффициент взаимозаменяемости видов (если он равен единице, то виды взаимозаменяемы.
- Студент 9: найти значения коэффициентов
построить для них доверительные области, оценить качество построенной модели. Можно ли сказать, что виды взаимозаменяемы?
- Студент 9: найти значения коэффициентов
Пассажиры Титаника
Приведены данные о 1309 пассажирах Титаника. Для каждого пассажира указано имя, пол, возраст, класс и цена билета, число родственников на борту, и, кроме того, удалось ли ему выжить.
- Студент 10: построить функцию, предсказывающую вероятность выживания пассажира по имеющимся данным, оценить точность предсказания.
Литература
Кобзарь А. И. Прикладная математическая статистика. — М.: Физматлит, 2006.