Спецсеминар "Байесовские методы машинного обучения"/осень 2011
Материал из MachineLearning.
(Различия между версиями)
(+ презентации Головина и Ромова) |
м (оформление) |
||
| (7 промежуточных версий не показаны.) | |||
| Строка 1: | Строка 1: | ||
{{Main|Спецсеминар "Байесовские методы машинного обучения"}} | {{Main|Спецсеминар "Байесовские методы машинного обучения"}} | ||
| - | |||
| - | |||
== Расписание семинаров == | == Расписание семинаров == | ||
| Строка 25: | Строка 23: | ||
| 5 октября 2011 | | 5 октября 2011 | ||
| [[Участник:Kropotov|''Кропотов Дмитрий Александрович'']], м.н.с. ВЦ РАН.<br>'''Boltzmann Machines: математические модели, алгоритмы обучения, примеры применения.'''. | | [[Участник:Kropotov|''Кропотов Дмитрий Александрович'']], м.н.с. ВЦ РАН.<br>'''Boltzmann Machines: математические модели, алгоритмы обучения, примеры применения.'''. | ||
| - | | | + | | [[Media:BMMO11_SS_BMs.pdf|Текст (PDF, 535Кб)]] |
|- | |- | ||
| 12 октября 2011 | | 12 октября 2011 | ||
| ''Шальнов Евгений'', студент 4-го курса ВМК.<br>'''Обобщение алгоритмов <tex>\alpha</tex>-расширения и <tex>\alpha-\beta</tex> замены.''' | | ''Шальнов Евгений'', студент 4-го курса ВМК.<br>'''Обобщение алгоритмов <tex>\alpha</tex>-расширения и <tex>\alpha-\beta</tex> замены.''' | ||
| - | | [[Media:BMMO_SS11_Shalnov.pdf|Презентация (PDF, 260Кб)]] | + | | [[Media:BMMO_SS11_Shalnov.pdf|Презентация (PDF, 260Кб)]]<br>[http://arxiv.org/pdf/1108.5710v1 Статья] |
|- | |- | ||
| 19 октября 2011 | | 19 октября 2011 | ||
| Строка 41: | Строка 39: | ||
| 2 ноября 2011 | | 2 ноября 2011 | ||
| ''Голдберг Андрей'', сотрудник Microsoft Research, Silicon Valley.<br>'''Быстрые алгоритмы поиска максимального потока в графе''' | | ''Голдберг Андрей'', сотрудник Microsoft Research, Silicon Valley.<br>'''Быстрые алгоритмы поиска максимального потока в графе''' | ||
| - | | [http://research.microsoft.com/en-us/people/goldberg/ibfs.pdf Презентация ] | + | | [http://research.microsoft.com/en-us/people/goldberg/ibfs.pdf Презентация]<br> |
| + | [http://research.microsoft.com/pubs/150437/ibfs-proc.pdf Статья] | ||
|- | |- | ||
| 9 ноября 2011 | | 9 ноября 2011 | ||
| Строка 76: | Строка 75: | ||
== Зачет по спецсеминару == | == Зачет по спецсеминару == | ||
| - | |||
| - | + | Список вопросов к зачету: | |
# Минимизация парно-сепарабельной энергии с бинарными переменными при помощи алгоритма поиска максимального потока в графе. Триангуляция Делоне и диаграмма Вороного. Применение этих техник для построения метрического классификатора Ю. Визильтера. | # Минимизация парно-сепарабельной энергии с бинарными переменными при помощи алгоритма поиска максимального потока в графе. Триангуляция Делоне и диаграмма Вороного. Применение этих техник для построения метрического классификатора Ю. Визильтера. | ||
# Схема Гиббса для генерации выборки из распределения. Примеры применения. Вывод формул для схемы Гиббса в моделях BM и RBM. | # Схема Гиббса для генерации выборки из распределения. Примеры применения. Вывод формул для схемы Гиббса в моделях BM и RBM. | ||
| Строка 84: | Строка 82: | ||
# Модель DBM. Алгоритм обучения. Примеры применения. | # Модель DBM. Алгоритм обучения. Примеры применения. | ||
# Алгоритмы <tex>\alpha</tex>-расширения и <tex>\alpha-\beta</tex> замены для минимизации парно-сепарабельной энергии с K-значными переменными. Алгоритм <tex>\alpha</tex>-расширения <tex>\beta</tex>-сдвига. | # Алгоритмы <tex>\alpha</tex>-расширения и <tex>\alpha-\beta</tex> замены для минимизации парно-сепарабельной энергии с K-значными переменными. Алгоритм <tex>\alpha</tex>-расширения <tex>\beta</tex>-сдвига. | ||
| - | + | # Алгоритм поиска максимального потока в графе с помощью дополняющих путей. | |
| - | # Алгоритм поиска максимального потока в графе с помощью дополняющих путей | + | # Алгоритм Бойкова-Колмогорова для поиска максимального потока. |
| - | # Алгоритм Бойкова-Колмогорова для поиска максимального потока | + | |
# Вероятностная модель эпитомов для сегментации изображений, ее обучение с помощью ЕМ-алгоритма. Алгоритм минимизации энергии марковского поля с глобальным эпитомным потенциалом. | # Вероятностная модель эпитомов для сегментации изображений, ее обучение с помощью ЕМ-алгоритма. Алгоритм минимизации энергии марковского поля с глобальным эпитомным потенциалом. | ||
# Метод Textonboost для сегментации изображений: понятие текстона, алгоритм бустинга для текстонов. | # Метод Textonboost для сегментации изображений: понятие текстона, алгоритм бустинга для текстонов. | ||
| + | # Множественная проверка гипотез. Контроль над FWER и FDR. Методы Бонферрони, Холма, Бенджамини-Хохберга, Бенджамини-Йекутиели. Примеры применения. | ||
# Восстановление регрессии наименьших модулей с помощью ММ-алгоритма. | # Восстановление регрессии наименьших модулей с помощью ММ-алгоритма. | ||
# Случайные леса, методы оценки значимости признаков в них. Мультиномиальная регрессия с регуляризатором «эластическая сеть». Способ оценки важности признаков в ней. | # Случайные леса, методы оценки значимости признаков в них. Мультиномиальная регрессия с регуляризатором «эластическая сеть». Способ оценки важности признаков в ней. | ||
# Структурный метод опорных векторов, обучение с помощью подхода отсекающих плоскостей. Примеры применения. | # Структурный метод опорных векторов, обучение с помощью подхода отсекающих плоскостей. Примеры применения. | ||
Текущая версия
Расписание семинаров
| Дата | Название семинара | Комментарии |
|---|---|---|
| 7 сентября 2011 | Елшин Денис, студент 4 курса ВМК МГУ. Рассказ о летней школе Microsoft по компьютерному зрению. | Сайт летней школы. |
| 21 сентября 2011 | Ушмаев Олег, в.н.с. ИПИ РАН. Подход к измерению активности выброса радиоактивных веществ по данным мониторинга радиационной обстановки. | Презентация (PDF, 3.13Мб) |
| 28 сентября 2011 | Визильтер Юрий Валентинович, рук. лаборатории компьютерного машинного зрения ФГУП ГосНИИАС. Морфологический подход к синтезу метрических классификаторов и его реализация методом отыскания минимального разреза графа соседства для обучающей выборки. | Презентация (PDF, 744Кб) Программа (RAR, 1.62Мб) Статья на ММРО (PDF, 375Кб) |
| 5 октября 2011 | Кропотов Дмитрий Александрович, м.н.с. ВЦ РАН. Boltzmann Machines: математические модели, алгоритмы обучения, примеры применения.. | Текст (PDF, 535Кб) |
| 12 октября 2011 | Шальнов Евгений, студент 4-го курса ВМК. Обобщение алгоритмов | Презентация (PDF, 260Кб) Статья |
| 19 октября 2011 | Ветров Дмитрий Петрович, н.с. ВМК МГУ. История Древнего Рима. | Ненаучный семинар Видеозапись лекции |
| 26 октября 2011 | Новиков Павел, студент 4-го курса ВМК. Поиск дескрипторов, инвариантных к нелинейным деформациям и изменению освещенности | Презентация (PDF, 2.3 Mб) |
| 2 ноября 2011 | Голдберг Андрей, сотрудник Microsoft Research, Silicon Valley. Быстрые алгоритмы поиска максимального потока в графе | Презентация |
| 9 ноября 2011 | Елшин Денис, студент 4-го курса ВМК. Различные способы введения текстурного потенциала для сегментации изображений: эпитомы и textonboost | Презентация (PDF, 2.91Мб) Статья для конференции Нейроинформатика-2012 |
| 16 ноября 2011 | Рябенко Евгений, аспирант ВМК. Иерархическая процедура множественной проверки гипотез | Презентация (PDF, 1.9 МБ) |
| 23 ноября 2011 | Касперский Иван, студент 5-го курса ВМК. Калибровка показаний тактильного механорецептора с помощью регрессии наименьших модулей | Презентация (PDF, 1.91 Мб) Статья по ММ-алгоритму |
| 30 ноября 2011 | Гавриков Михаил, студент 3-го курса ВМК. Геометрия в пространстве древовидных форм | Статья |
| 7 декабря 2011 | Тихонов Андрей, студент 4-го курса ВМК. Методы деконволюции трехмерных изображений | |
| 14 декабря 2011 | Головин Антон, студент 5-го курса ВМК. Алгоритм решения задачи многоклассовой классификации с генерацией суперпозиций признаков Ромов Петр, студент 3-го курса ВМК. | Презентация Головина (PDF, 432 Кб) Презентация Ромова (PDF, 2.08 Мб) |
Зачет по спецсеминару
Список вопросов к зачету:
- Минимизация парно-сепарабельной энергии с бинарными переменными при помощи алгоритма поиска максимального потока в графе. Триангуляция Делоне и диаграмма Вороного. Применение этих техник для построения метрического классификатора Ю. Визильтера.
- Схема Гиббса для генерации выборки из распределения. Примеры применения. Вывод формул для схемы Гиббса в моделях BM и RBM.
- Вариационный подход. Примеры применения. Вывод формул для вариационного подхода в модели DBM.
- Модель DBM. Алгоритм обучения. Примеры применения.
- Алгоритмы
-расширения и
замены для минимизации парно-сепарабельной энергии с K-значными переменными. Алгоритм
-сдвига.
- Алгоритм поиска максимального потока в графе с помощью дополняющих путей.
- Алгоритм Бойкова-Колмогорова для поиска максимального потока.
- Вероятностная модель эпитомов для сегментации изображений, ее обучение с помощью ЕМ-алгоритма. Алгоритм минимизации энергии марковского поля с глобальным эпитомным потенциалом.
- Метод Textonboost для сегментации изображений: понятие текстона, алгоритм бустинга для текстонов.
- Множественная проверка гипотез. Контроль над FWER и FDR. Методы Бонферрони, Холма, Бенджамини-Хохберга, Бенджамини-Йекутиели. Примеры применения.
- Восстановление регрессии наименьших модулей с помощью ММ-алгоритма.
- Случайные леса, методы оценки значимости признаков в них. Мультиномиальная регрессия с регуляризатором «эластическая сеть». Способ оценки важности признаков в ней.
- Структурный метод опорных векторов, обучение с помощью подхода отсекающих плоскостей. Примеры применения.
