Математические основы теории прогнозирования (курс лекций)

Материал из MachineLearning.

(Различия между версиями)

Версия 13:01, 3 февраля 2012

Курс посвящен основным математическим методам решения задач машинного обучения (распознавания, классификации, прогнозирования, анализа данных). Эти методы широко используются при решении задач из разных прикладных областей (экономика, финансы, медицина, бизнес, геология, химия и др.), например, прогноз результатов лечения, предсказание свойств химических соединений, распознавание речи, анализ поведения, диагностика состояния оборудования, прогноз урожайности и т.д. Задачей курса также является ознакомление с основными математическими теориями, которые используются при построении алгоритмов распознавания, такими как алгебра, математическая статистика, методы оптимизации, дискретная математика и др.

Контрольная работа

Для получения допуска к экзамену необходимо успешно написать контрольную работу. Оценка за контрольную работу будет учитываться на экзамене.

Примерный вариант задания на контрольной (PDF)

Комментарии по результатам первой контрольной работы (PDF)

Список студентов, допущенных к экзамену по результатам двух попыток написаний контрольной работы

В фамилиях и номерах групп возможны неточности, т.к. почерк не всегда легко разобрать.

Группа 420	Группа 421	Группа 422	Группа 424	Группа 425	Группа 427	Группа 428	СФ
Степанец А.	Чернышов Ю.	Плакунов А.	Крутов В.	Капитанова В.	Касимова А.	Гисков Г.	Сребняк
Исламгулов И.	Гончаров А.	Беликов	Кривобородов Е.	Джумаев С.	Борзилов	Спихальский Д.
Бикинеев А.	Жданов В.	Носеевич Г.	Куликов В.	Лисицкий В.	Бакулин М.	Черникова Т.
Бакмеев А.	Еремина О.	Вдовин П.	Творогов	Бурцев М.	Кадысев М.	Мандрыкин М.
Федорова А.	Ермишин	Касьяненко	Ульянов А.	Родионов А.	Варманов С.	Карпулевич Е.
Станченко	Зипа	Зотов И.	Иванкова	Джигайло П.	Фомичев Н.	Рязанцев Д.
Лихогруд	Лебедев	Субботин Н.	Кудасов	Боловинцева	Зуев А.	Куприн И.
Веселый	Пестун М.	Зайцев	Родимова П.	Рощупкин А.	Майков А.	Щербамкин Е.
Бурдаков Д.	Афанасьев В.	Гребенкина	Медведев А.	Мытрова М.	Лагута А.	Рябов С.
Новиков К.	Русланова А.	Лопухина	Клычков Д.	Жаров С.	Бочкарев П.	Пироженко А.
Смоляров И.	Сахаров А.	Мартьянов	Кондратова	Власенко А.	Коваленко А.	Крылов В.
Никеров А.	Клименко	Щербинина А.	Струнов	Волков	Платонов В.	Сергеев Н.
Васильев А.		Раздобаров			Перту Л.	Баранов Л.
Воробьев Д.		Снегирев Л.			Кошелев В.	Суханова
Сильвестров А.					Ермаков	Камаев
Киселев					Щербина	Сиващенко
					Меркулов Д.	Утехин
					Аноховский С.	Стариков
					Пантелеев И.	Бартунов С.
					Терещенко В.	Буздалов
					Рязанов В.
					Павлович

Список студентов, допущенных к пересдаче по результатам контрольной:

Коваленко П., 427

Селезнев В., 428

Мяков П., 421

Гейнрихс А., 428

Серов, 425

Швец П., 420

Межбицкий А., 425

Талалуев, СФ

Корольков С., СФ

Тупицин П., 425

Григорян К., 421

Следующие студенты не допущены к пересдаче экзамена:

Нетребко С., 424

Маргасюк А., 421

Экзамен

К экзамену допускаются только те студенты, которые успешно справились с контрольной работой. На экзамене при подготовке билета разрешается пользоваться любыми материалами. При ответе ничем пользоваться нельзя.

Вопросы к экзамену (PDF, 145Кб)

Теоретический минимум (PDF, 105Кб)

Практическое задание

Всем студентам, имеющим задолженность по курсу (в первую очередь, студентам Севастопольского филиала), предлагается возможность выполнить практическое задание. Оценка за это задание будет засчитана в качестве итоговой оценки за курс (при условии наличия допуска к экзамену по результатам контрольной работы). Выполнение данного задания не является обязательным для московских студентов ВМиК. Оно является лишь альтернативой пересдаче осенью.

Программа курса

ЧАСТЬ 1 (лектор Д.П. Ветров)

Различные постановки задач машинного обучения

Обзор задач анализа данных: классификация, регрессия, кластеризация, идентификация, прогнозирование. Примеры. Историческая справка. Основные проблемы теории распознавания образов: переобучение, противоречивость информации, малый объем выборки. Иллюстративные примеры переобучения, связь переобучения и объема выборки.

Ликбез: основные понятия теории вероятностей (математическое ожидание, дисперсия, ковариационная матрица, плотность вероятности, функция правдоподобия)

Презентация (PDF, 229 КБ)

Настоятельно рекомендуется к прочтению: Вводная лекция из курса Машинное обучение К.В. Воронцова.

Методы линейной и логистической регрессии. Регуляризация обучения.

Метод максимального правдоподобия. Формальные обозначения, генеральная совокупность, критерии качества обучения как точности на генеральной совокупности. Вывод выражения для идеальных решающих правил. Способы введения функции правдоподобия для задачи регрессии и классификации. Выражение для коэффициентов линейной регрессии, хэт-матрица. Метод наименьших квадратов с итеративно-перевзвешивающимися весами. Необходимость ридж-оценивания для устранения вырожденности гессиана.

Ликбез: нормальное распределение, псевдообращение матриц и нормальное псевдорешение.

Презентация (PDF, 593 КБ)

Метод опорных векторов

Линейный классификатор. Гиперплоскость, максимизирующая зазор между классами. Обучение классификатора как задача квадратичного программирования. Получение двойственной задачи для задачи квадратичного программирования. Ядровой переход. Опорные объекты. Настройка параметров метода.

Ликбез: решение задач условной оптимизации, правило множителей Лагранжа, переход к двойственной задаче.

Презентация (PDF, 393 Кб)

Настоятельно рекомендуется к прочтению: Лекция из курса СМАИС.

Скрытые марковские модели (СММ). Алгоритм сегментации сигнала.

Примеры задач сегментации сигналов. Обучение СММ с учителем. Поиск наиболее вероятной последовательности состояний. ЕМ-алгоритм и его использование для решения задачи кластеризации.

Ликбез: динамическое программирование

Презентация (PDF, 723 Кб)

Уменьшение размерности описания данных. Метод главных компонент

Проблема анализа многомерных данных. Метод главных компонент. Выбор размерности редуцированного пространства. Эффективные формулы метода главных компонент для случая, когда число объектов меньше числа признаков. Ядровая версия метода главных компонент.

Конспект лекции (PDF, 881Кб)

ЧАСТЬ 2 (лектор Ю.И. Журавлев)

Стандартная задача распознавания. Алгоритм «Кора».

Тестовый алгоритм. Система уравнений, определяющих тупиковые тесты. Таблица обучения с двумя классами объектов. Основные упрощающие формулы при умножении левых частей тестовых уравнений.

Обоснование способа построения всех тупиковых тестов через приведение системы тестовых уравнений к неупрощаемой ДНФ.

Алгоритм вычисления оценок (АВО). Шаги определения, полный перечень параметров. Итоговая формула для числа голосов.

Эффективные формулы вычисления оценок в АВО.

Представление алгоритма как композиции распознающего оператора и фиксированного решающего правила. Алгебры над алгоритмами. Отмеченные точки в контрольной матрице. Построение корректного алгоритма, если найдена совокупность операторов, отмечающих все единичные точки информационных векторов контрольной матрицы.

Конспекты лекций 2008 года (PDF, 402Кб)

Литература

Журавлёв Ю.И. Избранные научные труды. – М.: «Магистр», 1998.– 420с.
Журавлев Ю.И., Рязанов В.В., Сенько О.В. Распознавание. Математические методы. Программная система. Практические применения, М.: Фазис, 2006. (ISBN 5-7036-0108-8)
Дьяконов А.Г. Алгебра над алгоритмами вычисления оценок: Учебное пособие. – М.: Издательский отдел ф-та ВМиК МГУ им. М.В. Ломоносова, 2006. – 72с. (ISBN 5-89407-252-2)
Ветров Д.П., Кропотов Д.А. Байесовские методы машинного обучения, учебное пособие по спецкурсу, 2007 (Часть 1, PDF 1.22МБ; Часть 2, PDF 1.58МБ)
Bishop C.M. Pattern Recognition and Machine Learning. Springer, 2006.