Байесовские методы машинного обучения (курс лекций, Д.П. Ветров, Д.А. Кропотов)
Материал из MachineLearning.
(модификации в программе курса) |
|||
| Строка 3: | Строка 3: | ||
{| | {| | ||
|[[Изображение:BMMO11_Intro.jpg|280px]] | |[[Изображение:BMMO11_Intro.jpg|280px]] | ||
| - | | valign="top"|Курс посвящен т.н. байесовским методам решения различных задач [[Машинное обучение|машинного обучения]] (классификации, прогнозирования, [[Регрессионный анализ|восстановления регрессии]]), которые в настоящее время активно развиваются в мире. Байесовский подход к теории вероятностей позволяет эффективно учитывать различные предпочтения пользователя при построении решающих правил прогноза. Кроме того, он позволяет решать задачи выбора структурных параметров модели. В частности, здесь удается решать без комбинаторного перебора задачи селекции признаков, выбора числа кластеров в данных, размерности редуцированного пространства при уменьшении размерности, значений коэффициентов регуляризации и | + | | valign="top"|Курс посвящен т.н. байесовским методам решения различных задач [[Машинное обучение|машинного обучения]] (классификации, прогнозирования, [[Регрессионный анализ|восстановления регрессии]]), которые в настоящее время активно развиваются в мире. Байесовский подход к теории вероятностей позволяет эффективно учитывать различные предпочтения пользователя при построении решающих правил прогноза. Кроме того, он позволяет решать задачи выбора структурных параметров модели. В частности, здесь удается решать без комбинаторного перебора задачи селекции признаков, выбора числа кластеров в данных, размерности редуцированного пространства при уменьшении размерности, значений коэффициентов регуляризации и проч. В байесовском подходе вероятность интерпретируется как мера незнания, а не как объективная случайность. Простые правила оперирования с вероятностью, такие как формула полной вероятности и формула Байеса, позволяют проводить рассуждения в условиях неопределенности. В этом смысле байесовский подход к теории вероятностей можно рассматривать как обобщение классической булевой логики. |
|} | |} | ||
| Строка 29: | Строка 29: | ||
=== Введение в курс. Различные постановки задач машинного обучения === | === Введение в курс. Различные постановки задач машинного обучения === | ||
| - | Обзор задач анализа данных: классификация, регрессия, кластеризация, идентификация. Примеры. Историческая справка. Основные проблемы теории распознавания образов: переобучение, противоречивость информации, малый объем [[Выборка|выборки]]. Иллюстративные примеры переобучения, связь переобучения и объема выборки. Дискриминативные и | + | Обзор задач анализа данных: классификация, регрессия, кластеризация, идентификация. Примеры. Историческая справка. Основные проблемы теории распознавания образов: переобучение, противоречивость информации, малый объем [[Выборка|выборки]]. Иллюстративные примеры переобучения, связь переобучения и объема выборки. Дискриминативные и порождающие (вероятностные) модели. |
''Ликбез'': основные понятия теории вероятностей (математическое ожидание, дисперсия, ковариационная матрица, плотность вероятности, функция правдоподобия), метод максимального правдоподобия. | ''Ликбез'': основные понятия теории вероятностей (математическое ожидание, дисперсия, ковариационная матрица, плотность вероятности, функция правдоподобия), метод максимального правдоподобия. | ||
| Строка 38: | Строка 38: | ||
''Ликбез'': условная вероятность, формула Байеса и ее применение, формула полной вероятности. | ''Ликбез'': условная вероятность, формула Байеса и ее применение, формула полной вероятности. | ||
| - | === Акинатор. | + | === Акинатор. Матричные вычисления. === |
| - | Принцип работы игры [http://ru.akinator.com/ Акинатор]. | + | Принцип работы игры [http://ru.akinator.com/ Акинатор]. Дифференцирование по вектору и по матрице. Матричная нотация, примеры матричных тождеств. Комментарии к первому практическому заданию. |
| - | === EM-алгоритм. === | + | === [[Нормальное распределение|Нормальное распределение]] и [[ЕМ-алгоритм, его модификации и обобщения|EM-алгоритм]]. === |
| - | ЕМ алгоритм для задачи разделения смеси нормальных распределений. EM-алгоритм в общем виде. EM-алгоритм как покоординатный подъем. | + | Одномерное и многомерное нормальное распределение, его основные свойства. Модель смеси нормальных распределений. ЕМ-алгоритм для задачи разделения смеси нормальных распределений. EM-алгоритм в общем виде. EM-алгоритм как покоординатный подъем. Решение задачи идентификации. |
| - | ''Ликбез'': | + | ''Ликбез'': методы непрерывной оптимизации, решение задач условной оптимизации. |
=== Задача выбора модели на примере выбора коэффициента регуляризации, ядровой функции, настройки структурных параметров алгоритма обучения. Основные методы выбора модели. === | === Задача выбора модели на примере выбора коэффициента регуляризации, ядровой функции, настройки структурных параметров алгоритма обучения. Основные методы выбора модели. === | ||
| Строка 76: | Строка 76: | ||
=== Приближенные способы байесовского вывода: подход распространения ожидания (Expectation Propagation). === | === Приближенные способы байесовского вывода: подход распространения ожидания (Expectation Propagation). === | ||
| + | Экспоненциальное семейство распределений. Минимизация обратной дивергенции Кульбака-Лейблера для экспоненциального и факторизованного семейств распределений. Общая схема Expectation Propagation. Примеры применения. | ||
| + | |||
| + | ''Ликбез'': достаточные статистики. | ||
== Литература == | == Литература == | ||
Версия 18:36, 16 августа 2011
| Курс посвящен т.н. байесовским методам решения различных задач машинного обучения (классификации, прогнозирования, восстановления регрессии), которые в настоящее время активно развиваются в мире. Байесовский подход к теории вероятностей позволяет эффективно учитывать различные предпочтения пользователя при построении решающих правил прогноза. Кроме того, он позволяет решать задачи выбора структурных параметров модели. В частности, здесь удается решать без комбинаторного перебора задачи селекции признаков, выбора числа кластеров в данных, размерности редуцированного пространства при уменьшении размерности, значений коэффициентов регуляризации и проч. В байесовском подходе вероятность интерпретируется как мера незнания, а не как объективная случайность. Простые правила оперирования с вероятностью, такие как формула полной вероятности и формула Байеса, позволяют проводить рассуждения в условиях неопределенности. В этом смысле байесовский подход к теории вероятностей можно рассматривать как обобщение классической булевой логики. |
Авторы курса: н.с. каф. ММП Ветров Д.П., м.н.с. ВЦ РАН Кропотов Д.А.. Курс читается студентам ВМиК МГУ, начиная с 2007 года. Курс не требует от студентов дополнительной математической подготовки, выходящей за пределы первых двух курсов университетского образования, все необходимые понятия вводятся в ходе лекций.
Расписание на 2011–2012 учебный год
В осеннем семестре 2011 года спецкурс читается на ВМК ....
| Дата | Название лекции | Материалы |
|---|---|---|
| ?? сентября 2011 | Введение в курс. Постановки практических задач, рассматриваемых в курсе. |
Оценка за курс
В рамках курса студентам предлагается выполнить два практических задания. Выполнение этих заданий является обязательным условием для допуска к экзамену и, соответственно, успешной сдачи курса. Итоговая оценка за курс вычисляется по формуле 0.25*(оценка за первое задание)+0.25*(оценка за второе задание)+0.5*(оценка за экзамен).
Программа курса
Введение в курс. Различные постановки задач машинного обучения
Обзор задач анализа данных: классификация, регрессия, кластеризация, идентификация. Примеры. Историческая справка. Основные проблемы теории распознавания образов: переобучение, противоречивость информации, малый объем выборки. Иллюстративные примеры переобучения, связь переобучения и объема выборки. Дискриминативные и порождающие (вероятностные) модели.
Ликбез: основные понятия теории вероятностей (математическое ожидание, дисперсия, ковариационная матрица, плотность вероятности, функция правдоподобия), метод максимального правдоподобия.
Байесовский подход к теории вероятностей. Примеры байесовских рассуждений.
Частотный и вероятностный подходы к теории вероятностей. Интерпретация вероятности как меры нашего незнания, сравнение байесовских рассуждений с логическими. Байесовские сети и основные задачи в них. Пример жизненной ситуации «Джон и колокольчик для воров». Вывод формул для апостериорных вероятностей.
Ликбез: условная вероятность, формула Байеса и ее применение, формула полной вероятности.
Акинатор. Матричные вычисления.
Принцип работы игры Акинатор. Дифференцирование по вектору и по матрице. Матричная нотация, примеры матричных тождеств. Комментарии к первому практическому заданию.
Нормальное распределение и EM-алгоритм.
Одномерное и многомерное нормальное распределение, его основные свойства. Модель смеси нормальных распределений. ЕМ-алгоритм для задачи разделения смеси нормальных распределений. EM-алгоритм в общем виде. EM-алгоритм как покоординатный подъем. Решение задачи идентификации.
Ликбез: методы непрерывной оптимизации, решение задач условной оптимизации.
Задача выбора модели на примере выбора коэффициента регуляризации, ядровой функции, настройки структурных параметров алгоритма обучения. Основные методы выбора модели.
Общая постановка проблемы выбора модели, ее философский характер. Конкретные примеры структурных параметров. Кросс-валидация. Теория Вапника-Червоненкиса, емкость алгоритмов обучения. Принцип минимальной длины описания, его эквивалентность максимуму регуляризованного правдоподобия. Информационные критерии Акаике и Байеса-Шварца, область их применения.
Ликбез: теорема Шеннона и оптимальная длина описания.
Решение задачи выбора модели по Байесу. Обоснованность модели. Полный байесовский вывод.
Вывод формул для принятия решения. Принцип наибольшей обоснованности как метод максимального правдоподобия для моделей. Половинчатость данного подхода, полный вывод по Байесу. Интерпретация понятия обоснованности, ее геометрический смысл, бессмысленность сколь-угодно гибкого решающего правила, иллюстративные примеры, связь с принципом Оккама.
Ликбез: принцип Оккама, ad hoc гипотезы.
Метод релевантных векторов
Метод релевантных векторов, вывод формул для регрессии. Приближение Лапласа для оценки обоснованности в случае задачи классификации, его достоинства и недостатки. Свойства решающего правила RVM.
Ликбез: матричные тождества обращения, тождество Вудбери.
Приближенные способы байесовского вывода: вариационный подход.
Приближенные методы байесовского вывода. Минимизация дивергенции Кульбака-Лейблера и факторизованное приближение. Идея вариационного подхода, вывод формул для вариационной линейной регрессии.
Ликбез: дивергенция Кульбака-Лейблера, гамма-распределение.
Приближенные способы байесовского вывода: методы Монте-Карло с марковскими цепями.
Взятие интегралов методами Монте-Карло, голосование по апостериорному распределению вместо точечной оценки. Схема Метрополиса-Хастингса. Схема Гиббса. Гибридные методы Монте-Карло. Модель Изинга, применение методов Монте-Карло для вывода в ней. Выдача второго практического задания.
Байесовский метод главных компонент.
Задача уменьшения размерности данных. Вероятностная модель главных компонент. Решение задачи идентификации. Байесовский метод главных компонент для автоматического выбора размерности редуцированного пространства.
Байесовская смесь нормальных распределений.
Автоматический выбор количества компонент в смеси.
Приближенные способы байесовского вывода: подход распространения ожидания (Expectation Propagation).
Экспоненциальное семейство распределений. Минимизация обратной дивергенции Кульбака-Лейблера для экспоненциального и факторизованного семейств распределений. Общая схема Expectation Propagation. Примеры применения.
Ликбез: достаточные статистики.
Литература
- Памятка по теории вероятностей
- Ветров Д.П., Кропотов Д.А. Байесовские методы машинного обучения, учебное пособие по спецкурсу, 2007 (Часть 1, PDF 1.22МБ; Часть 2, PDF 1.58МБ)
- Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006.
- Mackay D.J.C. Information Theory, Inference, and Learning Algorithms. Cambridge University Press, 2003.
- Tipping M. Sparse Bayesian Learning. Journal of Machine Learning Research, 1, 2001, pp. 211-244.
- Шумский С.А. Байесова регуляризация обучения. В сб. Лекции по нейроинформатике, часть 2, 2002.
- Ветров Д.П., Кропотов Д.А. Алгоритмы выбора моделей и синтеза коллективных решений в задачах классификации, основанные на принципе устойчивости. — М.: УРСС, 2006.
Страницы курса прошлых лет
См. также
Курс «Структурные методы анализа изображений и сигналов»
