Графические модели (курс лекций)
Материал из MachineLearning.
(Различия между версиями)
(Выдано задание 1) |
(оценки за проверочную работу на семинаре №2) |
||
| Строка 83: | Строка 83: | ||
Задание 6. «Модель Изинга». | Задание 6. «Модель Изинга». | ||
| + | |||
| + | == Оценки по курсу == | ||
| + | |||
| + | {|class = "standard sortable" | ||
| + | ! class="unsortable"|№ п/п !! Студент !! Задание 1 !! Семинар 2 !! Задание 2 !! Задание 3 !! Задание 4 !! Задание 5 !! Задание 6 | ||
| + | |- | ||
| + | | align="center"|1 || Березин Алексей Андреевич || align="center"| || align="center"| 0.5 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|2 || [[Участник:Borman|Борисов Михаил Викторович]] || align="center"| || align="center"| - || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|3 || Гавриков Михаил Игоревич || align="center"| || align="center"| 1 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|4 || Зак Евгений Михайлович || align="center"| || align="center"| - || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|5 || Исмагилов Тимур Ниязович || align="center"| || align="center"| 0.5 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|6 || Кондрашкин Дмитрий Андреевич || align="center"| || align="center"| 0.5 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|7 || [[Участник:Kuraga|Куракин Александр Владимирович]] || align="center"| || align="center"| 0 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|8 || Лобачева Екатерина Максимовна || align="center"| || align="center"| 0.5 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|9 || Любимцева Мария Михайловна || align="center"| || align="center"| 0 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|10 || Малышева Екатерина Константиновна (С) || align="center"| || align="center"| 0 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|11 || Морозова Дарья Юрьевна || align="center"| || align="center"| 0 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|12 || [[Участник:Nizhibitsky|Нижибицкий Евгений Алексеевич]] || align="center"| || align="center"| 0 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|13 || [[Участник:Novikov|Новиков Максим Сергеевич]] || align="center"| || align="center"| 0 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|14 || Огнева Дарья Сергеевна || align="center"| || align="center"| 0.5 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|15 || [[Участник:MoRandi91|Остапец Андрей Александрович]] || align="center"| || align="center"| 0.5 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|16 || Потапенко Анна Александровна || align="center"| || align="center"| - || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|17 || [[Участник:Peter Romov|Ромов Петр Алексеевич]] || align="center"| || align="center"| - || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|18 || [[Участник:Newo|Фонарев Александр Юрьевич]] || align="center"| || align="center"| 0 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | | align="center"|19 || Шаймарданов Ильдар Рифарович || align="center"| || align="center"| 1 || align="center"| || align="center"| || align="center"| || align="center"| || align="center"| | ||
| + | |- | ||
| + | |} | ||
| + | |||
== Система выставления оценок по курсу == | == Система выставления оценок по курсу == | ||
Версия 11:47, 22 февраля 2013
| Курс посвящен математическим методам обработки информации, основанных на использовании внутренних взаимосвязей в данных и их последующем анализе. Эти методы широко используются при решении задач из разных прикладных областей, включая обработку изображений и видео, анализ социальных сетей, распознавание речи, машинное обучение. До 2011 года курс читался как спецкурс «Структурные методы анализа изображений и сигналов».
Целью курса является освоение математического аппарата для работы с графическими моделями. Предполагается, что в результате прохождения курса студенты обретут навыки самостоятельного построения графических моделей для решения задач из различных прикладных областей; будут способны решать задачи настройки параметров графических моделей по данным, определять подходящую структуру графической модели, выбирать методы, наиболее эффективные для работы с построенной моделью; получат опыт применения графических моделей для различных задач анализа изображений, сигналов, сетей. |
Лектор: Д.П. Ветров,
Семинарист: А.А. Осокин,
Ассистент: Д.А. Кропотов.
Расписание занятий
В 2013 году курс читается на факультете ВМиК МГУ по пятницам в ауд. 526б, начало в 12-15 и в 16-20.
| Дата | Занятие | Материалы |
|---|---|---|
| 8 февраля 2013 | Лекция 1 «Введение в курс. Байесовские рассуждения.» | |
| 15 февраля 2013 | Семинар 1 «Правила работы с вероятностями, байесовские рассуждения.» | |
| 15 февраля 2013 | Лекция 2 «Графические модели: байесовские и марковские сети» | |
| 22 февраля 2013 | Семинар 2 «Построение марковских сетей, фактор-графы» | |
| 22 февраля 2013 | Лекция 3 «Алгоритм Belief Propagation (BP) для вывода в ациклических графических моделях. Алгоритм Loopy BP.» | |
| 1 марта 2013 | Семинар 3 «Коды с малой плотностью проверок на чётность (LDPC-коды)» | LDPC-коды в Википедии |
| 1 марта 2013 | Лекция 4 «Скрытые марковские модели. Алгоритм сегментации сигнала, обучение с учителем.» | |
| 15 марта 2013 | Лекция 5 «ЕМ-алгоритм. Обучение скрытых марковских моделей без учителя.» | |
| 15 марта 2013 | Семинар 4 «ЕМ-алгоритм» | |
| 22 марта 2013 | Семинар 5 «Матричные вычисления» | |
| 22 марта 2013 | Лекция 6 «Линейные динамические системы. Фильтр Калмана. Расширенный фильтр Калмана.» | |
| 29 марта 2013 | Семинар 6 «Линейные динамические системы» | |
| 29 марта 2013 | Лекция 7 «Алгоритмы на основе разрезов графов, | |
| 5 апреля 2013 | Семинар 7 «Алгоритмы разрезов графов» | |
| 5 апреля 2013 | Лекция 8 «Алгоритм Tree-ReWeighted Message Passing (TRW) для вывода в циклических графических моделях» | |
| 12 апреля 2013 | Семинар 8 «Двойственное разложение» | |
| 12 апреля 2013 | Лекция 9 «Структурный метод опорных векторов (SSVM)» | |
| 19 апреля 2013 | Семинар 9 «Разбор практического задания по SSVM» | |
| 19 апреля 2013 | Лекция 10 «Методы Монте Карло по схеме марковских цепей (MCMC)» | |
| 26 апреля 2013 | Семинар 10 «Модель Изинга» | |
| 26 апреля 2013 | Лекция 11 «Вариационный вывод» | |
| 17 мая 2013 | Семинар 11 «Вариационный вывод» | |
| 17 мая 2013 | Лекция 12 «Алгоритм Expectation Propagation (EP)» |
Практические задания
Задание 1. «Байесовские рассуждения».
Задание 2. «Алгоритм Loopy Belief Propagation для LDPC-кодов».
Задание 3. «Матричные вычисления».
Задание 4. «Алгоритм -расширения для задачи стерео».
Задание 5. «Структурное обучение».
Задание 6. «Модель Изинга».
Оценки по курсу
| № п/п | Студент | Задание 1 | Семинар 2 | Задание 2 | Задание 3 | Задание 4 | Задание 5 | Задание 6 |
|---|---|---|---|---|---|---|---|---|
| 1 | Березин Алексей Андреевич | 0.5 | ||||||
| 2 | Борисов Михаил Викторович | - | ||||||
| 3 | Гавриков Михаил Игоревич | 1 | ||||||
| 4 | Зак Евгений Михайлович | - | ||||||
| 5 | Исмагилов Тимур Ниязович | 0.5 | ||||||
| 6 | Кондрашкин Дмитрий Андреевич | 0.5 | ||||||
| 7 | Куракин Александр Владимирович | 0 | ||||||
| 8 | Лобачева Екатерина Максимовна | 0.5 | ||||||
| 9 | Любимцева Мария Михайловна | 0 | ||||||
| 10 | Малышева Екатерина Константиновна (С) | 0 | ||||||
| 11 | Морозова Дарья Юрьевна | 0 | ||||||
| 12 | Нижибицкий Евгений Алексеевич | 0 | ||||||
| 13 | Новиков Максим Сергеевич | 0 | ||||||
| 14 | Огнева Дарья Сергеевна | 0.5 | ||||||
| 15 | Остапец Андрей Александрович | 0.5 | ||||||
| 16 | Потапенко Анна Александровна | - | ||||||
| 17 | Ромов Петр Алексеевич | - | ||||||
| 18 | Фонарев Александр Юрьевич | 0 | ||||||
| 19 | Шаймарданов Ильдар Рифарович | 1 |
Система выставления оценок по курсу
- При наличии несданных заданий максимальная возможная оценка за курс — это «удовлетворительно».
- Итоговая оценка вычисляется по формуле
, где Oral — оценка из пяти баллов за устный экзамен, HomeWork — баллы, набранные за практические задания (см. таблицу выше), Mark — итоговая оценка по 5-балльной шкале. Нецелые значения округляются в сторону ближайшего целого, превосходящего дробное значение.
- Студент может отказаться от оценки и пойти на пересдачу, на которой может заново получить Oral.
- За каждое несданное задание выставляется минус 10 баллов в HomeWork (допускаются отрицательные значения).
- Если на экзамене итоговая оценка оказывается ниже трех, студент отправляется на пересдачу. При этом оценка Oral, полученная на пересдаче, добавляется к положительной (три и выше) оценке Oral, полученной на основном экзамене и т.д. до тех пор, пока студент не наберет на итоговую оценку «удовлетворительно» (для итоговых оценок выше «удовлетворительно» оценки Oral не суммируются).
- Студент может досдать недостающие практические задания в любое время. При этом проверка задания гарантируется только в том случае, если задание сдано не позднее, чем за неделю до основного экзамена или пересдачи.
- Штраф за просрочку сдачи заданий начисляется из расчета 0.5 балла за неделю, но не более 5 баллов.
- В случае успешной сдачи всех практических заданий студент получает возможность претендовать на итоговую оценку «хорошо» и «отлично». При этом экзамен на оценку Oral может сдаваться до сдачи всех заданий (оценки Oral в этом случае не суммируются).
- Экзамен на оценку Oral сдается либо в срок основного экзамена, либо в срок официальных пересдач.
Программа курса
Литература
- Barber D. Bayesian Reasoning and Machine Learning. Cambridge University Press, 2012.
- Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006.
- Mackay D.J.C. Information Theory, Inference, and Learning Algorithms. Cambridge University Press, 2003.
- Wainwright M.J., Jordan M.I. Graphical Models, Exponential Families, and Variational Inference. Foundations and Trends in Machine Learning, NOWPress, 2008.
- Koller D., Friedman N. Probabilistic Graphical Models: Principles and Techniques. The MIT Press, 2009.
- Cowell R.G., Dawid A.P., Lauritzen S.L., Spiegelhalter D.J. Probabilistic networks and expert systems. Berlin: Springer, 1999.
- Памятка по теории вероятностей
Страницы курса прошлых лет
См. также
Курс «Байесовские методы машинного обучения»
Спецсеминар «Байесовские методы машинного обучения»
Математические методы прогнозирования (кафедра ВМиК МГУ)
Онлайн-курс Стэнфордского университета по вероятностным графическим моделям
