Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 074, осень 2015

Материал из MachineLearning.

Текущая версия

Основная статья: Численные методы обучения по прецедентам (практика, В.В. Стрижов)

Основная статья: Прикладной регрессионный анализ (курс лекций, B.В. Стрижов)

В.В. Стрижов, Дополнительные главы машинного обучения

Автор	1	2	3	4	5	6	7	8
Рудой (пример)	1[1]	2	3	4	5	6	7	8
Бахтеев Олег	1[2]		3[3]		5[4]	6[5]	7[6]	8[7]	6
Вдовина Евгения		2[8]	3[9]	4[10]	5[11]		7[12]		5
Старожилец Всеволод	1[13]		3[14]	4[15]			7[16]	8[17]	5
Трофимов Михаил		2[18]	3[19]	4[20]	5[21]		7[22]		5
Сухарева Анжелика	1[23]	2[24]	3[25]	4[26]	5[27]	6[28]	7[29]	8[30]	8
Катруца Александр	1[31]

• Эссе помещаются в папку /Group074/Surname2015Essay/; каждый документ называется Surname2015EssayN, N = 1,…,10.

Список тем

1. Роль функции ошибки в задачах выбора признаков

   Ключевые слова:

   принцип belsley, неустойчивость ROC-кривой, монотонность поведения классификатора по двум функциям ошибки

2. Построение интегральных индикаторов для описанных в ранговых шкалах

   На выбор:

   1. Привести пример задачи с данным в разнородных шкалах, а также метод ее решения.
   2. Привести пример задачи с использованием матрицы расстояний объектов в разнородных шкалах, а также метод ее решения.
3. Поставить задау, выбранную в рамках группового проекта
   • в контексте всей системы,
   • как отдельный элемент системы.
4. Предложить решение классической задачи 28 из списка задач для поступления на кафедру.
5. Сделать краткое и ясное описание на языке алгебры и теории графов одного из нижеперечисленных методов
   1. Word2vec
   2. Рекурсивный автокодировщик
   3. Машина Больцмана
   4. Сверточная нейронная сеть
   5. Структурное обучение по Tommi Jaakkola
   6. Структурное обучение по Ioannis Tsochantaridis, см. также слайды.
6. Сделать, по возможности, полное и подробное описание постановки задачи оптимизации параметров сети глубокого обучения с учетом расписания процедур иерархической оптимизации.

Список тем прошлого года

1. Аппроксимация множества точек замкнутыми кривыми
2. Метод группового учета аргументов в краткой нотации
3. Заполнение пропусков в порядковых шкалах (и в шкалах без отношения полного порядка)
4. Роль Матрицы Ганкеля в прогнозировании временных рядов
5. Интегральные индикаторы в ранговых шкалах
6. Порождение признаков в прикладных задачах анализа данных
7. Смеси моделей, многоуровневые модели, смеси экспертов
8. Отыскание общих узлов в последовательности наборов метрических конфигураций
9. Регрессионный анализ задачах математического моделирования. Найти пример использования регрессионного анализа в тех задачах математического моделирования в физике, химии, биологии, и т.д., где требуется получить модель, интерпретируемую в терминах предметной области
10. Машинное обучение через 20 лет: какими методами АД (МО, ИИ, ЭС, АЗ,...) мы будем пользоваться? Какие задачи мы будет решать? Что я буду делать в своей профессиональной области?

К.В. Рудаков, Интеллектуальные системы

Список тем

• Алгоритмы машинного обучения на квантовых компьютерах
• Задачи ИЧК (BCI) и обработка сигналов МЭГ
• Частичное обучение (Semi-supervised learning, Transductive learning)
• "Косвенное обучение" (Transfer learning)
• Обучение словарей (Dictionary learning) (+)
• Задачи многоклассовой классификации с классами различной мощности
• Функция ошибки в моделях глубокого обучения (и задача выбора моделей)
• Инварианты в задачах глубокого обучения (+)
• Оценка объема выборки в глубоком обучении
• Generative vs Discriminative (+)
• Выбор признаков в задачах квадратичной оптимизации (+)
• Онлайновое обучение, обучение с подкреплением (+)

Требования: Продолжительность: 1 академический час, 45 минут. Число слайдов: 20-30 (по вкусу).

1. Раскрыть проблему постановки задачи машинного обучения и анализа данных в данной теме.
2. Подобрать примеры постановки и решения известных (а может и узкоспециальных) задач.

Рекомендации к стилю изложения:

1. дать основные определения этой области,
2. вводимые обозначения должны быть удобны и непротиворечивы,
3. используемые термины должны быть точны,
4. дать теоретические постановки задач,
5. желательно привести теоретические примеры решения и его основные свойства,
6. представить математические методы,
7. привести приметы прикладных задач.

Оценки: максимум 7 баллов из 10 (5 за лекцию + 2 за тесты). Тест: готовит лектор, 5 вопросов со ответом. Результат теста: N из 5 (отображается в 1/4). 17 декабря – отчеты о научной работе.

А.А. Ивахненко, Практика и методология промышленного анализа данных

Групповой проект: Сети глубокого обучения для задачи классификации временных рядов

Расписание результатов

• 12 ноября: постановка задачи, работоспособная система в виде набора заглушек
• 19 ноября: система с юнит-тестами и системными тестами
• 26 ноября: доработанная система