Участник:Vokov/Некоторые задачи интеллектуального анализа данных (лекция)
Материал из MachineLearning.
|
Лекция прочитана в рамках курса «Современные проблемы прикладной математики» студентам 5 курса ВМиК МГУ, 28 апреля 2008 года.
План-конспект лекции
Задачи обучения по прецедентам
Общая постановка, основные понятия: объекты, признаки, выборка, алгоритм обучения.
Типы задач: классификация, регрессия, прогнозирование.
Свойства реальных данных: многомерные, неполные, неточные, противоречивые, разнородные.
Задачи и методы классификации
Примеры прикладных задач: медицинская диагностика, кредитный скоринг (credit scoring), предсказание ухода клиентов (churn prediction).
Методы классификации (минутный обзор).
Дискретно-логические методы классификации. Понятие закономерности. Требование интерпретируемости, конъюнкутивные закономерности. Критерии закономерности и неслучайности.
Методы поиска логических закономерностей (rule induction). Локальный поиск, случайный поиск с адаптацией, генетические алгоритмы.
Схожая задача: анализ рыночных корзин. Методы поиска ассоциативных правил.
Проблема 1: как искать закономерности в сверхбольших данных? Самплинг.
Проблема 2: как оценивать вероятности и риски? Контрольная выборка, нечеткие правила.
Прогнозирование временных рядов
Примеры прикладных задач: прогнозирование цен и объемов потребления электроэнергии; прогнозирование спроса на товары в супермаркетах (sales forecast).
Проблема 1: как прогнозировать каждый день объёмы продаж 40 тысяч товаров в 200 магазинах, не покупая суперкомпьютер?
Проблема 2: как прогнозировать, если функционал потерь неквадратичен, несимметричен?
Анализ клиентских сред
Примеры прикладных задач: персонализация предложения в интернет-магазинах, видеопрокате, электронных библиотеках. Задача Netflix.
Постановка задачи коллаборативной фильтрации (collaborative filtering, CF). Матрица users–items.
Методы коллаборативной фильтрации. Анализ пользователей (user-based CF). Анализ айтемов (item-based CF). Байесовские генеративные модели и восстановление скрытых интересов пользователей.
Анализ текстов
Пример задачи: обнаружение заимствований (плагиата). Система Антиплагиат.
Постановки задач распознавания при обнаружении заимствований: различение плагиата и цитирования.
Темы рефератов и литература
Рефераты подаются на кафедру ММП в бумажном виде и присылаются мне в электронном виде для проверки в системе Антиплагиат.
- Обзор методов классификации, применяемых для решения задачи предсказания ухода клиентов.
- Оценивание вероятностей классов в логических алгоритмах классификации.
- Обзор методов, применяемых для прогнозирования объёмов продаж.
- Обзор методов коллаборативной фильтрации, применяемых лучшими участниками конкурса Netflix.
- Обзор методов, применяемых для поиска заимствований.
