Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа 574, весна 2019
Материал из MachineLearning.
(Различия между версиями)
(→Лекции) |
|||
(71 промежуточная версия не показана) | |||
Строка 27: | Строка 27: | ||
=== Темы на выбор === | === Темы на выбор === | ||
Указать в таблице одну из тем: | Указать в таблице одну из тем: | ||
+ | # Модели | ||
+ | # Структура | ||
# Сложность | # Сложность | ||
# Устойчивость | # Устойчивость | ||
Строка 37: | Строка 39: | ||
# Снижение размерности | # Снижение размерности | ||
# ?Алгоритмы машинного обучения на квантовых компьютерах | # ?Алгоритмы машинного обучения на квантовых компьютерах | ||
+ | # Embeddings | ||
+ | |||
+ | === Лекции === | ||
+ | # О.Ю. Бахтеев [[Media:Bakhteev2019MDLSelection.pdf|Выбор структуры модели согласно критерию наименьшей длины описания]] ([https://docs.google.com/document/d/1y14rxn49cxq09bbmO56axl6qje5Lrx14lWSos5-JUM8/edit?usp=sharing тест]) | ||
+ | # О.Ю. Бахтеев [[Media:BakhteevStructure2019.pdf|Выбор структуры модели: продолжение]] | ||
+ | # Г.С. Малиновский ([https://github.com/alarcoelectro/Optimizers/blob/master/graph_bias.pdf Индуктивные смещения и графовые сети]) ([https://arxiv.org/pdf/1806.01261.pdf статья]) | ||
+ | # А.М. Катруца Optimization of preconditioners for some solvers of linear systems [https://github.com/Strijov/Strijov2018-1AutomationOfResearch/raw/master/Katrutsa2019Lecture.pdf слайды и вопросы], [https://forms.gle/2r29ZTQydGhUSwbS6 ссылка на анкету для заполнения] (скан ответа или pdf, следите за качеством сканов). | ||
=== Задачи на выбор === | === Задачи на выбор === | ||
Строка 59: | Строка 68: | ||
|- | |- | ||
|Андрей Грабовой | |Андрей Грабовой | ||
- | | | + | |27.02.19 |
- | | | + | |[[Media:GrabovoySampleSize.pdf|Гипотеза порождения данных]] |
- | | | + | [[Media:GrabovoyPrior.pdf|Prior]] |
+ | |[http://svn.code.sf.net/p/mlalgorithms/code/Group574/Grabovoy2019DataSize/DataGeneration/Test.pdf тест] | ||
|- | |- | ||
|Григорий Малиновский | |Григорий Малиновский | ||
- | | | + | |13.02.19 |
- | | | + | |[https://github.com/alarcoelectro/Optimizers/blob/master/graph_bias.pdf Структура] |
- | | | + | |[https://github.com/alarcoelectro/Optimizers/blob/master/Graph_net.pdf тест] |
|- | |- | ||
|Олег Терехов | |Олег Терехов | ||
| | | | ||
- | | | + | |[[Media:Terekhov2019ExploitativeErrors.pdf| Ошибка, эксплуатационная]] |
- | | | + | |[https://forms.gle/WCjT34oXKzj4pqxz6 Тест] |
|- | |- | ||
|Тамаз Гадаев | |Тамаз Гадаев | ||
| | | | ||
- | | | + | |[https://github.com/ttgadaev/SampleSize/blob/master/Gadaev2019DimensionReduction.pdf Снижение размерности] |
- | | | + | |[https://forms.gle/ikHUbYDZ897viN4S6 Тест] |
|- | |- | ||
|Егор Шульгин | |Егор Шульгин | ||
- | | | + | | 13.03.19 |
- | | | + | | [[Media:Stabillity.pdf|4 Устойчивость]] |
- | | | + | |[https://goo.gl/forms/HDslHwNyLPHUmc1y1 Тест] |
|- | |- | ||
|Анна Рогозина | |Анна Рогозина | ||
- | | | + | | 20.03.19 |
- | | | + | | [[Media:Rogozina2019Embeddings.pdf| Embeddings]] |
- | | | + | |[https://goo.gl/forms/1uI36SrGY5UbaDSn1 Тест] |
|- | |- | ||
|Антон Астахов | |Антон Астахов | ||
| | | | ||
- | | | + | |[https://github.com/AstakhovAnton/Networks/blob/master/Report.html Суперпозиции] |
| | | | ||
|- | |- | ||
Строка 99: | Строка 109: | ||
|- | |- | ||
|Никита Плетнев | |Никита Плетнев | ||
- | | | + | |13.03.2019 |
- | | | + | |[https://github.com/NikitaOmsk/123/blob/master/Slides.pdf Модели] |
- | | | + | |[https://goo.gl/forms/n9Dw5x1t4Lg7jzZ22 Тест] |
|- | |- | ||
|Егор Гладин | |Егор Гладин | ||
- | | | + | |23.04.19 |
- | | | + | |[[Медиа:Prediction_of_reactivity.pdf|Prediction of reactivity]] |
- | | | + | |[https://forms.gle/sLofg8g4Bqej4NWeA Тест] |
|} | |} | ||
== Даты == | == Даты == | ||
* Февраль 6 начало, 13, 20, 27, Март 6, 13, 20, 27, Апрель 3, 10, 17, 24. | * Февраль 6 начало, 13, 20, 27, Март 6, 13, 20, 27, Апрель 3, 10, 17, 24. |
Текущая версия
Лекции с разбором фундаментальных понятий в современных задачах машинного обучения
Цель курса - научиться использовать фундаментальные понятия машинного обучения при анализе проблем, возникающих при решении прикладных задач последних лет.
Формат лекции
Источник: научные статьи последних лет, желательно 2017-2018. Продолжительность: 35 минут. Ожидаемое число слайдов: 15-30. Цели:
- Раскрыть базовое, фундаментальное понятие машинного обучения с примерами на современных прикладных прикладных задачах.
- Показать, как строится научное исследование на материале коммерческой задачи.
- Подобрать примеры постановки и решения новых и узкоспециальных задач.
Рекомендации к стилю изложения:
- дать основные определения этой области,
- вводимые обозначения должны быть удобны и непротиворечивы,
- используемые термины должны быть точны,
- дать теоретические постановки задач,
- представить математические методы решения,
- привести схему решения и его основные свойства,
- привести примеры внедрения прикладных задач.
Оценки: max 5 за лекцию, лекция является условием зачета, и max 5 за тесты. Тест готовит лектор, 10 вопросов с вариантами ответов. Суммарный результат тестов линейно отображается в [0,5].
Темы на выбор
Указать в таблице одну из тем:
- Модели
- Структура
- Сложность
- Устойчивость
- Ошибка, оптимизационная
- Ошибка, эксплуатационная
- Гипотеза порождения данных
- Суперпозиция
- Локальная аппроксимация
- Универсальные модели
- Снижение размерности
- ?Алгоритмы машинного обучения на квантовых компьютерах
- Embeddings
Лекции
- О.Ю. Бахтеев Выбор структуры модели согласно критерию наименьшей длины описания (тест)
- О.Ю. Бахтеев Выбор структуры модели: продолжение
- Г.С. Малиновский (Индуктивные смещения и графовые сети) (статья)
- А.М. Катруца Optimization of preconditioners for some solvers of linear systems слайды и вопросы, ссылка на анкету для заполнения (скан ответа или pdf, следите за качеством сканов).
Задачи на выбор
- Частичное обучение (Semi-supervised learning, Transductive learning)
- Косвенное обучение (Transfer learning)
- Обучение словарей (Dictionary learning)
- Задачи многоклассовой классификации с классами различной мощности
- Функция ошибки в моделях глубокого обучения (и задача выбора моделей)
- Инварианты в задачах глубокого обучения
- Оценка объема выборки в глубоком обучении
- Generative vs Discriminative
- Выбор признаков в задачах квадратичной оптимизации
- Онлайновое обучение, обучение с подкреплением
Расписание
Автор | Дата | Тема и слайды | Ссылка на тест |
---|---|---|---|
Андрей Грабовой | 27.02.19 | Гипотеза порождения данных | тест |
Григорий Малиновский | 13.02.19 | Структура | тест |
Олег Терехов | Ошибка, эксплуатационная | Тест | |
Тамаз Гадаев | Снижение размерности | Тест | |
Егор Шульгин | 13.03.19 | 4 Устойчивость | Тест |
Анна Рогозина | 20.03.19 | Embeddings | Тест |
Антон Астахов | Суперпозиции | ||
Вадим Кислинский | |||
Никита Плетнев | 13.03.2019 | Модели | Тест |
Егор Гладин | 23.04.19 | Prediction of reactivity | Тест |
Даты
- Февраль 6 начало, 13, 20, 27, Март 6, 13, 20, 27, Апрель 3, 10, 17, 24.