Статистический анализ данных (курс лекций, К.В.Воронцов)

Материал из MachineLearning.

Версия 13:37, 18 апреля 2016

Курс знакомит студентов с основными задачами и методами прикладной статистики.

Цели курса — связать теорию и практику, научить студентов «видеть» статистические задачи в различных предметных областях и правильно применять методы прикладной статистики, показать на практических примерах возможности и ограничения статистических методов. Курс имеет скорее методологическую, чем математическую направленность и не содержит доказательств теорем.

Каждый метод описывается по единой схеме:

• постановка задачи;
• примеры прикладных задач из области биологии, экономики, социологии, производства, медицины;
• базовые предположения и границы применимости;
• описание метода (для методов проверки статистических гипотез: нулевая гипотеза и альтернативы, статистика, её нулевое распределение);
• достоинства, недостатки, ограничения, «подводные камни»;
• сравнение с другими методами.

Курс читается студентам 4 курса кафедры математических методов прогнозирования ВМиК МГУ с 2007 года и студентам 4 курса факультета управления и прикладной математики МФТИ с 2011 года. Предполагается, что студенты уже прослушали курсы теории вероятностей и математической статистики.

Программа курса

Введение

Обзор необходимых сведений из теории вероятностей и математической статистики.

• Понятия простой выборки и статистики. Примеры статистик: моменты, асимметрия и эксцесс, вариационный ряд и порядковые статистики, эмпирическое распределение.
• Статистические точечные оценки и их свойства: несмещённость, состоятельность, оптимальность, робастность.
• Интервальные оценки, понятия доверительного интервала и уровня доверия. Доверительные интервалы для среднего и медианы.
• Часто используемые распределения: нормальное, хи-квадрат, Фишера, Стьюдента, Бернулли, биномиальное, Пуассона.
• Проверка статистических гипотез, основные понятия: уровень значимости, достигаемый уровень значимости (p-value), ошибки I и II рода. Односторонние и двусторонние альтернативы.
• Свойства достигаемых уровней значимости. Статистическая и практическая значимость.
• Свойства критериев: несмещённость, состоятельность, мощность.

Материалы занятия

Параметрическая проверка гипотез

[Kanji, Кобзарь]

• Критерии нормальности: критерий хи-квадрат (Пирсона), критерий Шапиро-Уилка, критерии, основанные на различиях между эмпирической и теоретической функциями распределения, критерий Колмогорова-Смирнова (Лиллиефорса). Упрощённая проверка нормальности по асимметрии и эксцессу: критерий Харке-Бера.
• Нормальные параметрические критерии для проверки гипотез: гипотезы о положении, гипотезы о рассеивании.
• Гипотезы о средних: t- и z-критерии Стьюдента для одной и двух выборок, связанные выборки
• Гипотезы о дисперсиях: критерии хи-квадрат и Фишера.
• Гипотезы о значениях параметра распределения Бернулли: сравнение значения параметра с заданным, сравнение параметров распределений двух выборок (случаи связанных и независимых выборок).
• Доверительный интервал для параметра распределения Бернулли: Вальда, Уилсона. Доверительные интервалы Уилсона для разности параметров двух выборок.

Материалы занятия

Непараметрическая проверка гипотез

[Bonnini, Wilcox]

• Критерии знаков: одновыборочный, для связанных выборок.
• Вариационный ряд, ранги и связки.
• Ранговые критерии: критерий Уилкоксона-Манна-Уитни, критерий Уилкоксона двухвыборочный, критерий Уилкоксона для связанных выборок, критерий Зигеля-Тьюки.
• Перестановочные критерии. Проверка гипотез о положении (одновыборочный, для связанных выборок, для независимых выборок), проверка гипотезы о рассеивании.
• Двухвыборочные критерии согласия: Колмогорова-Смирнова, Крамера-фон Мизеса (Андерсона).

Материалы занятия

Множественная проверка гипотез

[Bretz, Dickhaus]

• Множественная проверка гипотез. Примеры задач. Меры числа ошибок первого рода.
• FWER, поправка Бонферрони.
• Нисходящие процедуры множественной проверки: общий вид, метод Холма.
• Процедуры множественной проверки гипотез при наличии дополнительной информации о признаках: независимость, subset pivotality, PRDS.
• Оценка числа верных нулевых гипотез и её применение.
• FDR, восходящие процедуры, методы Бенджамини-Хохберга и Бенджамини-Иекутиели.

Материалы занятия

Дисперсионный анализ (ANOVA)

[Tabachnick, Лагутин, Кобзарь]

• Однофакторная модель. Независимые выборки: критерии Фишера, Краскела-Уоллиса, Джонкхиера. Связанные выборки: критерии Фишера, Фридмана и Пейджа. Предположение сферичности.
• Модель со случайным эффектом, разделение дисперсии.
• Модель с фиксированным эффектом, уточнение различий: методы LSD и HSD, критерии Неменьи и Даннета.
• Проверка гипотезы о равенстве дисперсий: критерии Бартлета и Флайнера-Киллиана.
• Двухфакторная модель. Взаимодействие факторов, его интерпретация. Двухфакторный нормальный анализ. Иерархический дизайн.

Материалы занятия

Анализ зависимостей

[Agresti, Лагутин].

• Корреляция Пирсона. Значимость коэффициента корреляции: критерий Стьюдента, перестановочный критерий.
• Ранговая корреляция: коэффициент корреляции Спирмена, коэффициент корреляции Кенделла, их значимость. Связь коэффициентов корреляции.
• Частная корреляция, значимость коэффициента частной корреляции (критерий Стьюдента).
• Множественная корреляция, значимость коэффициента множественной корреляции (критерий Фишера).
• Анализ канонических корреляций. Значимость коэффициентов. Вспомогательные статистики и их интерпретация.
• Таблица сопряженности . Проверка гипотезы независимости категориальных величин с помощью критериев хи-квадрат и G-квадрат. Коэффициент V Крамера, коэффициент для порядковых величин.
• Таблица сопряженности . Проверка гипотезы независимости бинарных величин с помощью точного критерия Фишера. Корреляция Мэтьюса.
• Парадокс хи-квадрат.

Материалы занятия

Линейный регрессионный анализ

[Wooldridge]

• Многомерная линейная регрессия. Примеры прикладных задач. Метод наименьших квадратов.
• Несимметричность решения задачи одномерной регрессии относительно признака и отклика, связь с коэффициентом корреляции. Остаточная сумма квадратов (RSS). Коэффициент детерминации
• Предположения Гаусса-Маркова. Статистические свойства МНК-оценок в отсутствие предположения нормальности.
• Факторы, влияющие на дисперсию оценок коэффициентов модели. Мультиколлинеарность.
• Кодирование нечисловых признаков, фиктивные переменные. Dummy- и deviation-кодирование.
• Статистические свойства МНК-оценок при добавлении предположения нормальности. Доверительные интервалы для дисперсии шума, коэффициентов регрессии, прогнозируемого значения отклика.
• Анализ структуры линейной регрессионной модели. Значимость коэффициентов линейной регрессии: проверка равенства коэффициентов нулю и константе, вложенные модели линейной регрессии, критерий Фишера, запись критерия Фишера через коэффициент детерминации. Связь между критериями Фишера и Стьюдента. Пошаговая регрессия. Эксперимент Фридмана.
• Сравнение невложенных моделей: приведённый коэффициент детерминации, критерий Давидсона-Маккиннона.
• Анализ регрессионных остатков: визуальный анализ, проверка гипотез несмещённости, гомоскедастичности (критерий Бройша-Пагана), нормальности.
• Обработка выбросов, расстояние Кука.
• Метод Бокса-Кокса для преобразования отклика. Доверительный интервал для параметра метода.
• Устойчивая оценка дисперсии Уайта, её модификации.

Материалы занятия

Обобщения линейной регрессии

[Olsson, Hosmer, Cameron]

• Обобщённые линейные модели. Связующая функция. Оценка параметров методом максимального правдоподобия.
• Доверительные интервалы и оценка значимости коэффициентов, критерии Вальда и отношения правдоподобия.
• Меры качества обобщённых линейных моделей: аномальность, информационные критерии.
• Постановка задачи логистической регрессии. Логит, интерпретация коэффициентов логистической регрессии.
• Проверка линейности логита: сглаженные диаграммы рассеяния, дробные полиномы.
• Классификация на основе логистической регрессии: чувствительность, специфичность, выбор порога.
• Регрессия счётного признака. Пуассоновская модель.
• Предположение о равенстве матожидания и дисперсии и его проверка. Отрицательная биномиальная модель. Устойчивая оценка дисперсии коэффициентов.

Материалы занятия

Анализ временных рядов

[Hyndman]

• Временной ряд. Основные компоненты эконометрических временных рядов: тренд, сезонность. Календарные эффекты.
• Анализ остатков. Автокорреляционная функция. Коррелограмма и её интерпретация. Проверка гипотезы о равенстве нулю автокорреляции и группы автокорреляций (критерий Льюнга-Бокса). Проверка гипотезы стационарности (критерий KPSS).
• Модели AR, MA, ARMA. Частичная автокорреляция. Подбор параметров модели по коррелограммам. Переход к ряду разностей, модель ARIMA.
• Сезонные эффекты и модели их учёта: SARMA, SARIMA.
• Учёт дополнительных признаков, модель regARIMA. Схема настройки параметров модели.
• Прогнозирование методами экспоненциального сглаживания. Простое экспоненциальное сглаживание Брауна, методы Хольта и Хольта-Уинтерса. Таксономия моделей ETS.
• Меры качества прогнозов, примеры оценок. Информационные критерии. U-коэффициент Тейла.
• Сравнение качества двух прогнозов. Непараметрические критерии, критерий Диболда-Мариано, его модификация для маленьких выборок.
• Обнаружение структурных изменений. Критерий Чоу.
• Причинность по Грейнджеру. Критерий Грейнджера (для двух рядов, для множества рядов).
• Адаптивная селекция и композиция моделей прогнозирования. «Forecast combination puzzle». Агрегирующий алгоритм Вовка.
• Прогнозирование иерархических совокупностей рядов.
• Сложные сезонности в моделях экспоненциального сглаживания (TBATS) и авторегрессии.

Материалы занятий: часть 1, часть 2.

Последовательный анализ

[Вальд, Mukhopadhyay]

• Применение в задачах проверки гипотез о значениях параметра биномиального распределения: сравнение значения с заданным, сравнение двух значений.
• Применение в задачах проверки гипотез о значениях параметров нормального распределения: сравнение значения среднего с заданными (симметричный и несимметричный варианты), сравнение значения дисперсии с заданным.
• Последовательные доверительные интервалы для среднего нормальной совокупности с неизвестной дисперсией (двухэтапная, последовательная процедуры). Процедуры для разности средних двух нормальных совокупностей, случаи равных и неравных дисперсий.
• Непараметрические последовательные доверительные интервалы для среднего и медианы.

Материалы занятия

Анализ причинно-следственных связей

[Pearl]

• Неразрешимость парадокса Симпсона в рамках классической статистики.
• Причинные графы, цепочки, вилки, коллайдеры. D-разделимость.
• Интервенции. Оценка эффекта по обзервационным данным. Хирургия графа и формула корректировки (adjustment formula).
• Правило причинного эффекта. Варианты для отсутствия родителей: правило задней двери, правило передней двери.
• Propensity score, обратное вероятностное взвешивание.
• Графы в линейных моделях. Связь со структурными уравнениями.

Материалы занятия

Анализ выживаемости

• Анализ выживаемости. Функция выживаемости и функция интенсивности рисков. Процедура Каплана-Мейера. Доверительный интервал выживаемости.
• Сравнение двух функций выживаемости: логранговый критерий, критерий Гехана.

Выборочный анализ

• Задачи выборочного анализа. Простой случайный выбор. Приложения в социологии, маркетинге [Лапач, 312, Орлов].
• Пропорциональный выбор и преимущества стратификации. Оценки достаточной длины выборки [Лапач, 361]. Другие методы выбора: квотированный, кластерный, многоступенчатый кластерный.
• Выборочный контроль качества [Лапач, 351]. Одноступенчатый и двухступенчатый план контроля. Оперативная характеристика плана контроля. Парадоксы выборочного контроля.

• Метод доверительных интервалов Неймана.
• Понятия параметрических, непараметрических и робастных методов. Структура прикладной статистики.

• Случайные блуждания, задача о разорении игрока.

Нелинейная, устойчивая регрессия

• Нелинейная регрессия. Методы Ньютона-Раффсона и Ньютона-Гаусса.
• Проблема выбросов и робастная регрессия. M-оценки, метод наименьших модулей. L-оценки, винзоризация выборки [Вучков].

Факторный анализ

• Факторный анализ [Айвазян, том 1, 526, 551]: метод главных компонент, геометрическая интерпретация, выбор числа значимых факторов [Кулаичев, 315].
• Гипотеза нормальности и ее нарушение. Гетероскедастичность. Обобщённый метод наименьших квадратов [Вучков, Айвазян, том 2].

Построение интегральных индикаторов

• Интегральный индикатор. Примеры прикладных задач. Линейные и ранговые шкалы. Методы построения интегрального индикатора «без учителя» [Strijov, 2003]. Устойчивые интегральные индикаторы [Стрижов, 2007].
• Экспертные оценки [Литвак, Лапач, 353]. Матрица парных сравнений. Экспертно-статистический метод [Айвазян, том 2]. Согласование экспертных оценок [Стрижов, 2006].

--->

Литература

1. Вальд, А. Последовательный анализ. — М.: Физматлит, 1960.
2. Лагутин, М.Б. Наглядная математическая статистика. В двух томах. — М.: П-центр, 2003.
3. Кобзарь, А.И. Прикладная математическая статистика. — М.: Физматлит, 2006.
4. Agresti, A. Categorical Data Analysis. — Hoboken: John Wiley & Sons, 2013.
5. Bonnini, S., Corain, L., Marozzi, M., Salmaso S. Nonparametric Hypothesis Testing: Rank and Permutation Methods with Applications in R. — Hoboken: John Wiley & Sons, 2014.
6. Bretz, F., Hothorn, T., Westfall, P. Multiple Comparisons Using R. — Boca Raton: Chapman and Hall/CRC, 2010.
7. Cameron, A.A., Trivedi, P.K. Regression Analysis of Count Data. — Cambridge: Cambridge University Press, 2013.
8. Dickhaus, T. Simultaneous Statistical Inference With Applications in the Life Sciences. — Heidelberg: Springer, 2014.
9. Good, P. Permutation, Parametric and Bootstrap Tests of Hypotheses: A Practical Guide to Resampling Methods for Testing Hypotheses. — New York: Springer, 2005.
10. Hastie, T., Tibshirani, R., Friedman, J. The Elements of Statistical Learning, 2nd edition. — Springer, 2009. — 533 p.  (подробнее)
11. Hosmer, D.W., Lemeshow S., Sturdivant, R.X. Applied Logistic Regression. — Hoboken: John Wiley & Sons, 2013.
12. Hyndman, R.J., Athanasopoulos G. Forecasting: principles and practice. — OTexts, 2015. https://www.otexts.org/book/fpp
13. Kanji, G.K. 100 statistical tests. — London: SAGE Publications, 2006.
14. Mukhopadhyay, N., de Silva, B. M. Sequential methods and their applications. — Boca Raton: Chapman and Hall/CRC, 2009.
15. Olsson, U. Generalized Linear Models: An Applied Approach. — Lund: Studentlitteratur, 2004.
16. Pearl J., Glymour M., Jewell N.P. Causal Inference in Statistics: A Primer. — Chichester: John Wiley & Sons, 2016.
17. Tabachnick, B.G., Fidell, L.S. Using Multivariate Statistics. — Boston: Pearson Education, 2012.
18. Wooldridge, J. Introductory Econometrics: A Modern Approach. — Mason: South-Western Cengage Learning, 2013.

Подстраницы

• Практические задания для студентов ММП ВМК
• Практические задания для студентов ФУПМ МФТИ