Машинное обучение (курс лекций, В.В.Китов)/2015-2016

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Классификация линейными методами.)
Текущая версия (17:13, 11 сентября 2016) (править) (отменить)
(Полностью удалено содержимое страницы)
 
(101 промежуточная версия не показана)
Строка 1: Строка 1:
-
[[Категория:Учебные курсы]]
 
-
{{TOCright}}
 
-
'''Машинное обучение''' (англ. machine learning) - наука об алгоритмах, которые сами настраиваются на известных данных, выделяя их характерную структуру и взаимосвязи между ними, для их компактного описания, визуализации и последующего предсказания новых аналогичных данных. Наука является сравнительно молодой, поскольку многие алгоритмы автоматической настройки на данных являются вычислительно трудоемкими, и их применение стало возможным только с появлением высокопроизводительных вычислительных средств. Основной акцент курса сделан на задачах предсказания дискретных величин (классификация) и непрерывных величин (регрессия), хотя в курсе также подробно рассматриваются смежные области - эффективное снижение размерности пространства, выделение наиболее значимых признаков для предсказания, методы оценивания и сравнения вероятностных распределений.
 
-
 
-
Курс читается студентам 3 курса кафедры «Математические методы прогнозирования» ВМиК МГУ, магистрам, зачисленным на эту кафедру, и не проходивших ранее аналогичных курсов, а также для всех желающих. На материал данного курса опираются последующие кафедральные курсы.
 
-
 
-
По изложению, рассматриваются математические основы методов, лежащие в их основе предположения о данных, взаимосвязи методов между собой и особенности их практического применения.
 
-
 
-
Курс сопровождается [[Машинное обучение (семинары, ВМК МГУ)|семинарами]], раскрывающими дополнительные темы курса и отрабатывающими навыки практического применения рассматриваемых методов. Практическое использование методов машинного обучения в основном будет вестись с использованием языка python и соответствующих библиотек для научных вычислений.
 
-
 
-
От студентов требуются знания линейной алгебры, математического анализа и теории вероятностей. Знание математической статистики, методов оптимизации и какого-либо языка программирования желательно, но не обязательно.
 
-
 
-
Курс во многом опирается на цикл лекций [[Машинное обучение (курс лекций, К.В.Воронцов)|К.В.Воронцова]], откуда можно получить дополнительную информацию.
 
-
 
-
=Программа курса=
 
-
 
-
==Первый семестр==
 
-
 
-
===Основные понятия и примеры прикладных задач.===
 
-
[[Media:Kitov-ML-01-Introduction.pdf|Скачать презентацию]]
 
-
 
-
===Метрические методы регрессии и классификации. RBF-методы.===
 
-
[[Media:Kitov-ML-02-Metric methods.pdf|Скачать презентацию]]<br>
 
-
[[Media:Kitov-ML-03-Metric methods.pdf|Скачать презентацию (продолжение)]]
 
-
 
-
===Методы решающих деревьев.===
 
-
[[Media:Kitov-ML-04-Decision trees.pdf|Скачать презентацию]]<br>
 
-
[[Media:Kitov-ML-05-Decision trees.pdf|Скачать презентацию (продолжение)]]
 
-
 
-
===Оценивание моделей. Преобразование score в вероятность.===
 
-
[[media:Kitov-ML-05-Model_evaluation.pdf‎|Скачать презентацию]]
 
-
 
-
===Классификация линейными методами.===
 
-
[[media:Kitov-ML-06-Margin._SGD_method.pdf‎|Скачать презентацию]]
 
-
 
-
===Линейная и нелинейная регрессия.===
 
-
===Кластеризация===
 
-
===Обобщение методов через ядра.===
 
-
===Байесовская теория классификации.===
 
-
+LDA, QDA.
 
-
===Разделение смеси распределений. Ядерное сглаживание для оценки плотности.===
 
-
EM-алгоритм. Мягкая кластеризация.
 
-
===Отбор признаков и регуляризация.===
 
-
===Линейные методы снижения размерности.===
 
-
PCA, SVD разложения.
 
-
===Извлечение признаков и модификация моделей на примерах прикладных задач.===
 
-
 
-
 
-
==Второй семестр==
 
-
 
-
===Нейросети.===
 
-
 
-
===Глубинное обучение. ===
 
-
+Различные виды автоэнкодеров.
 
-
 
-
===Ансамбли алгоритмов.===
 
-
===Ансамбли алгоритмов (продолжение).===
 
-
 
-
===Нелинейные методы снижения размерности.===
 
-
===Коллаборативная фильтрация.===
 
-
===Online machine learning.===
 
-
===Теория переобучения и оценки обобщающей способности прогнозирующих алгоритмов.===
 
-
===Оптимизация процесса построения модели. Active learning.===
 
-
===Reinforcement learning.===
 

Текущая версия