Статистика случайных процессов (курс лекций, ФКН ВШЭ)

Материал из MachineLearning.

Версия 12:48, 23 января 2017

Курс дает теоретический и практический фундамент, необходимый при решении множества реальных промышленных задач, связанных с анализом данных в режиме реального времени. Необходимость в таких методах возникает во многих прикладных областях — например, при анализе временных рядов цен на акции, спроса на товары, числа посещений главной страницы интернет-поисковика. Трудность таких задач заключается в требовании максимально эффективного использования накопленной и поступающей информации для прогнозирования появления событий в неизвестном будущем или их обнаружения при неопределенном настоящем. Курс дает двоякие знания — математическую базу теории случайных процессов и навыки практической реализации алгоритмов анализа данных в оффлайн и онлайн-режимах. Будут рассмотрены основные подходы и вероятностные модели теории случайных процессов, такие как гауссовость, марковость, авторегрессионные модели, локально стационарные модели, модели в задачах скорейшего обнаружения; численные алгоритмы, в том числе сегментация, шумоподавление, оценка статистических характеристик, ключевые статистики в задачах обнаружения разладок и аномалий; слушателям будет предложена серия задач, направленных на анализ реальных данных посредством практического применения рассматриваемых подходов.

Занятия проходят на ФКН ВШЭ.

Лектор: Алексей Валерьевич Артемов. Лекции проходят по пятницам с 9:00 до 10:20 в ауд. 509 и (по нечетным неделям) с 12:10 до 13:30 в ауд. 317.

Полезные ссылки

[Карточка курса и программа]

[Репозиторий с материалами на GitHub]

Почта для сдачи домашних заданий: hse.cs.stochastics@gmail.com

[Таблица с оценками]

Оставить отзыв на курс: форма

Вопросы по курсу можно задавать на почту курса, а также в телеграм лектору (artonson@) или семинаристу. Вопросы по материалам лекций/семинаров и по заданиям лучше всего оформлять в виде [Issue] в [github-репозитории курса].

Семинары

Консультации

Консультации с учебными ассистентами по курсу проводятся согласно следующему расписанию.

Система выставления оценок по курсу

1. В рамках курса предполагается:
   1. Шесть домашних заданий (теоретических и практических).
   2. Проверочные самостоятельные работы на семинарах.
   3. Устный коллоквиум по темам 1--6.
   4. Устный экзамен.
2. Каждое задание, коллоквиум и экзамен оцениваются по десятибалльной шкале.
3. Итоговая оценка вычисляется на основе оценки за работу в семестре и оценки за экзамен:

O_{итоговая} = 0.7 * O_{накопленная} + 0.3 * О_экз

1. Оценка за работу в семестре вычисляется по формуле

O_{накопленная} = 0.1 * O_{самостоятельные} + 0.6 * О_дз + 0.3 * О_{коллоквиум}

1. Оценка за самостоятельную работу вычисляется как среднее по всем самостоятельным, оценка за домашнюю работу — как среднее по всем практическим заданиям и соревнованиям.
2. Также во время лекций и семинаров выдаются задачи, за которые можно получить дополнительные баллы, которые влияют на итоговую оценку.

Формирование итоговой оценки по курсу по итогам 3-го и 4-го модулей

1. За каждый из двух модулей выставляется независимая оценка в шкале 0, 4-10.
2. Итоговая оценка по курсу вычисляется как среднее арифметическое двух оценок за каждый из модулей с дальнейшим округлением к ближайшему целому (.5 округляется к единице).
3. Если по одному из модулей оценка 0 баллов, то итоговая оценка за курс – также 0 баллов.

Правила сдачи заданий

В рамках курса предполагается сдача нескольких домашних и практических заданий. Домашнее задание сдаётся к началу очередного семинара на листочках или (по согласованию с семинаристом) по почте в виде скана или pdf-файла. Домашние задания после срока сдачи не принимаются. Практические задания сдаются по почте. Эти задания могут быть присланы после срока сдачи, при этом начисляется штраф из расчёта 0.2 балла в день, но суммарно не более 6 баллов. При сдаче задания позже срока его проверка гарантируется только в случае, если оно было прислано не позже одной недели до официального окончания сессии.

Все домашние и практические задания выполняются самостоятельно. Если задание выполнялось сообща или использовались какие-либо сторонние коды и материалы, то об этом должно быть написано в отчёте. В противном случае «похожие» решения считаются плагиатом и все задействованные студенты (в том числе те, у кого списали) будут сурово наказаны.

Лекции

Семинары

Домашние задания

Задание 1. Скорости сходимости и матричные вычисления. Срок сдачи: 17 января 2017 (на семинаре).

Задание 2. Производные и условия оптимальности. Срок сдачи: 31 января 2017 (на семинаре).

Литература

1. J. Nocedal, S. Wright. Numerical Optimization, Springer, 2006.
2. S. Boyd, L. Vandenberghe. Convex Optimization, Cambridge University Press, 2004.
3. S. Sra et al.. Optimization for Machine Learning, MIT Press, 2011.
4. A. Ben-Tal, A. Nemirovski. Optimization III. Lecture Notes, 2013.
5. Б. Поляк. Введение в оптимизацию, Наука, 1983.
6. Y. Nesterov. Introductory Lectures on Convex Optimization: A Basic Course, Springer, 2003.
7. R. Fletcher. Practical Methods of Optimization, Wiley, 2000.
8. A. Antoniou, W.-S. Lu. Practical Optimization: Algorithms and Engineering Applications, Springer, 2007.
9. W. Press et al.. Numerical Recipes. The Art of Scientific Computing, Cambridge University Press, 2007.