Машинное обучение (курс лекций, В.В.Китов)/2015-2016

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Обобщение методов через ядра.)
(Первый семестр)
Строка 39: Строка 39:
[[media:Kitov-ML-08-Regression.pdf‎|Скачать презентацию (обновлена 05.11.2015)]]
[[media:Kitov-ML-08-Regression.pdf‎|Скачать презентацию (обновлена 05.11.2015)]]
-
===Кластеризация===
 
===Обобщение методов через ядра.===
===Обобщение методов через ядра.===
[[media:Kitov-ML-09-Kernel methods.pdf|Скачать презентацию]]
[[media:Kitov-ML-09-Kernel methods.pdf|Скачать презентацию]]
-
===Байесовская теория классификации.===
 
-
+LDA, QDA.
 
===Разделение смеси распределений. Ядерное сглаживание для оценки плотности.===
===Разделение смеси распределений. Ядерное сглаживание для оценки плотности.===
EM-алгоритм. Мягкая кластеризация.
EM-алгоритм. Мягкая кластеризация.
 +
 +
===Кластеризация===
 +
 +
===Байесовская теория классификации.===
 +
+LDA, QDA.
 +
===Отбор признаков и регуляризация.===
===Отбор признаков и регуляризация.===
 +
===Линейные методы снижения размерности.===
===Линейные методы снижения размерности.===
PCA, SVD разложения.
PCA, SVD разложения.
-
===Извлечение признаков и модификация моделей на примерах прикладных задач.===
 
-
 
==Второй семестр==
==Второй семестр==

Версия 19:40, 15 ноября 2015

Содержание

Машинное обучение (англ. machine learning) - наука об алгоритмах, которые сами настраиваются на известных данных, выделяя их характерную структуру и взаимосвязи между ними, для их компактного описания, визуализации и последующего предсказания новых аналогичных данных. Наука является сравнительно молодой, поскольку многие алгоритмы автоматической настройки на данных являются вычислительно трудоемкими, и их применение стало возможным только с появлением высокопроизводительных вычислительных средств. Основной акцент курса сделан на задачах предсказания дискретных величин (классификация) и непрерывных величин (регрессия), хотя в курсе также подробно рассматриваются смежные области - эффективное снижение размерности пространства, выделение наиболее значимых признаков для предсказания, методы оценивания и сравнения вероятностных распределений.

Курс читается студентам 3 курса кафедры «Математические методы прогнозирования» ВМиК МГУ, магистрам, зачисленным на эту кафедру, и не проходивших ранее аналогичных курсов, а также для всех желающих. На материал данного курса опираются последующие кафедральные курсы.

По изложению, рассматриваются математические основы методов, лежащие в их основе предположения о данных, взаимосвязи методов между собой и особенности их практического применения.

Курс сопровождается семинарами, раскрывающими дополнительные темы курса и отрабатывающими навыки практического применения рассматриваемых методов. Практическое использование методов машинного обучения в основном будет вестись с использованием языка python и соответствующих библиотек для научных вычислений.

От студентов требуются знания линейной алгебры, математического анализа и теории вероятностей. Знание математической статистики, методов оптимизации и какого-либо языка программирования желательно, но не обязательно.

Курс во многом опирается на цикл лекций К.В.Воронцова, откуда можно получить дополнительную информацию.

Программа курса

Первый семестр

Основные понятия и примеры прикладных задач.

Скачать презентацию

Метрические методы регрессии и классификации.

Скачать презентацию
Скачать презентацию (продолжение)

Методы решающих деревьев.

Скачать презентацию
Скачать презентацию (продолжение)

Оценивание моделей.

Скачать презентацию

Классификация линейными методами.

Скачать презентацию
Скачать презентацию (продолжение)

Линейная и нелинейная регрессия.

Скачать презентацию (обновлена 05.11.2015)

Обобщение методов через ядра.

Скачать презентацию

Разделение смеси распределений. Ядерное сглаживание для оценки плотности.

EM-алгоритм. Мягкая кластеризация.

Кластеризация

Байесовская теория классификации.

+LDA, QDA.

Отбор признаков и регуляризация.

Линейные методы снижения размерности.

PCA, SVD разложения.

Второй семестр

Нейросети.

Глубинное обучение.

+Различные виды автоэнкодеров.

Ансамбли алгоритмов.

Ансамбли алгоритмов (продолжение).

Нелинейные методы снижения размерности.

Коллаборативная фильтрация.

Online machine learning.

Теория переобучения и оценки обобщающей способности прогнозирующих алгоритмов.

Оптимизация процесса построения модели. Active learning.

Reinforcement learning.

Личные инструменты