Графические модели (курс лекций)/2017
Материал из MachineLearning.
| Курс посвящен математическим методам обработки информации, основанных на использовании внутренних взаимосвязей в данных и их последующем анализе. Эти методы широко используются при решении задач из разных прикладных областей, включая обработку изображений и видео, анализ социальных сетей, помехоустойчивое кодирование, распознавание речи, машинное обучение.
Целью курса является освоение математического аппарата для работы с графическими моделями. Предполагается, что в результате прохождения курса студенты обретут навыки самостоятельного построения графических моделей для решения задач из различных прикладных областей; будут способны решать задачи настройки параметров графических моделей по данным, определять подходящую структуру графической модели, выбирать методы, наиболее эффективные для работы с построенной моделью; получат опыт применения графических моделей для различных задач анализа изображений, сигналов, сетей. |
Лектор: Д.П. Ветров,
Семинаристы: Д.А. Кропотов, Кирилл Струминский.
По всем вопросам, связанным с курсом, просьба писать на bayesml@gmail.com, в название письма обязательно добавлять [ВМК ГМ17].
Новости
20.03.17 Выложено первое практическое задание по низкоплотностным кодам. Срок сдачи — 2 апреля (воскресенье), 23:59
31.03.17 Выложено второе практическое задание по разрезам графов и коллажам. Срок сдачи — 16 апреля (воскресенье), 23:59
28.04.17 Добавлен список вопросов к экзамену
Экзамен
Экзамен по курсу состоится 3 мая в ауд. 582, начало в 12-00. На экзамене при подготовке билета разрешается пользоваться любыми материалами. При непосредственном ответе ничем пользоваться нельзя. В билете два вопроса.
Практические задания
Приём заданий по курсу осуществляется в системе anytask.org. Для получения инвайта по курсу просьба писать на почту курса.
Расписание занятий
В 2017 году курс читается на факультете ВМиК МГУ по пятницам в ауд. 526б, начало в 14-35 (лекция) и 16-20 (семинар).
| Дата | № занятия | Занятие | Материалы |
|---|---|---|---|
| 10 февраля 2017 | 1 | Лекция «Графические модели: байесовские и марковские сети, примеры применения» | Презентация по байесовским рассуждениям и графическим моделям |
| Семинар «Условная независимость в байесовских и марковских сетях, фактор-графы, решение практических задач с помощью ГМ» | Презентация по практическим задачам | ||
| 17 февраля 2017 | 2 | Лекция «Алгоритм Belief Propagation (BP) для вывода в ациклических графических моделях» | Конспект по алгоритмам передачи сообщений |
| Семинар «Алгоритмы передачи сообщений» | |||
| 3 марта 2017 | 3 | Лекция «Помехоустойчивое кодирование, теорема Шеннона, линейные коды, коды с малой плотностью проверок на чётность» | LDPC-коды в Википедии |
| Семинар «Вывод формул для алгоритма декодирования в LDPC-кодах, выдача задания по кодированию» | |||
| 10 марта 2017 | 4 | Лекция «Скрытые марковские модели. Алгоритм сегментации сигнала, обучение с учителем и без учителя» | Презентация 1, Презентация 2 |
| Семинар «Расширения скрытых марковских моделей» | |||
| 17 марта 2017 | 5 | Лекция «Линейные динамические системы. Фильтр Калмана. Расширенный фильтр Калмана.» | Конспект по ЛДС |
| Семинар «Вывод формул фильтра Калмана» | |||
| 24 марта 2017 | 6 | Лекция «Алгоритмы на основе разрезов графов, | Презентация, конспект по разрезам графов |
| Семинар «Алгоритмы разрезов графов» | |||
| 31 марта 2017 | 7 | Лекция «Алгоритм Tree-ReWeighted Message Passing (TRW) для вывода в циклических графических моделях» | Конспект по TRW |
| Семинар «Двойственное разложение» | |||
| 7 апреля 2017 | 8 | Лекция «Вариационная передача сообщений» | Методы вывода как алгоритмы передачи сообщений |
| Семинар «Фильтр частиц» | |||
| 14 апреля 2017 | 9 | Лекция «Подход Expectation Propagation для приближённого вывода в графических моделях» | |
| Семинар «Модель TrueSkill» | Презентация по TrueSkill |
Система выставления оценок по курсу
В рамках курса предполагается два практических задания. Каждое задание оценивается из 5-ти баллов.
- При наличии несданных заданий максимальная возможная оценка за курс — это «удовлетворительно».
- Необходимым условием получения положительной оценки за курс является сдача не менее одного практического задания и сдача устного экзамена не менее чем на оценку «удовлетворительно».
- Итоговый балл за курс вычисляется по формуле 0.25*<Оценка_за_задание_1> + 0.25*<Оценка_за_задание_2> + 0.5*<Оценка_за_экзамен> с округлением до ближайшего целого (.5 округляется в большую сторону).
- Штраф за просрочку сдачи заданий начисляется из расчета 0.1 балла в день, но не более 3 баллов.
Литература
- Barber D. Bayesian Reasoning and Machine Learning. Cambridge University Press, 2012.
- Murphy K.P. Machine Learning: A Probabilistic Perspective. The MIT Press, 2012.
- Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006.
- Mackay D.J.C. Information Theory, Inference, and Learning Algorithms. Cambridge University Press, 2003.
- Wainwright M.J., Jordan M.I. Graphical Models, Exponential Families, and Variational Inference. Foundations and Trends in Machine Learning, NOWPress, 2008.
- Koller D., Friedman N. Probabilistic Graphical Models: Principles and Techniques. The MIT Press, 2009.
Страницы курса прошлых лет
См. также
Курс «Байесовские методы машинного обучения»
Спецсеминар «Байесовские методы машинного обучения»
Математические методы прогнозирования (кафедра ВМиК МГУ)
Онлайн-курс Стэнфордского университета по вероятностным графическим моделям
