Нейросетевые методы обработки изображений (В.В.Китов)
Материал из MachineLearning.
(→Лекции) |
(→Рекомендуемые ресурсы) |
||
| (45 промежуточных версий не показаны.) | |||
| Строка 3: | Строка 3: | ||
==О курсе== | ==О курсе== | ||
| - | Спецкурс проходит на ф-те ВМиК в весеннем семестре и посвящен задаче автоматической стилизации изображений, в которой входное изображение необходимо | + | Спецкурс проходит на ф-те ВМиК в весеннем семестре и посвящен задаче автоматической стилизации изображений, в которой входное изображение необходимо отобразить в стиле, задаваемым другим изображением. Например, это может быть стилизация семейной фотографии под стиль известного художника, либо стилизация дневного фото в ночное, либо преобразование фотогрфии в схематичную книжную иллюстрацию. Для решения задачи существуют современные подходы переноса стиля (style transfer) и генеративно-состязательные сети (generative adversarial networks). Эта задача широко используется в индустрии разлечений (например, мобильное приложение Prisma было самым скачиваемым на Android в странах СНГ в течение 10 дней после выхода), при обработке фотографий и дизайне (функции стилизации были добавлены в Adobe Photoshop 2021), может применяться в мультипликации, наложении спецэффектов в фильмах, видеоиграх и средствах дополненной реальности, а также для более точной настройки методов машинного при обучении на одной предметной области, а применении модели к другой (transfer learning). Помимо изображений указанный подход применим для видеопоследовательностей и данных из других предметных областей (текст, речь и музыка). Основные методы стилизации были предложены в последние 7 лет и опираются на глубокие нейронные сети, базовому изучению которых посвящена начальная часть курса. |
| - | + | Занятия проходят в формате лекций. В процессе прохождения курса каждый студент должен сделать презентацию основных идей и подходов одной из недавних статей, посвященных стилизации изображений, а также представить свои идеи улучшений традиционных методов стилизации изображений и их обосновать. | |
| - | + | ||
| - | + | Пройденный спецкурс вы можете позже перезачесть в учебной части на 4м курсе (по учебному плану вам тогда нужно проходить спецкурс по выбору). Спецкурс познакомит вас с нейросетями - их основными архитектурами (многослойный персептрон, сверточная сеть, автокодировщик, генеративно-состязательные сети), что может служить преимуществом при распределении на кафедры соответствующей направленности. | |
| - | + | ||
| - | == | + | ==Лектор== |
| - | + | [[Участник:Victor Kitov|Виктор Владимирович Китов]], к.ф.-м.н., преподаватель кафедры [[Mmp|математических методов прогнозирования]] [http://cmc.msu.ru ВМК МГУ]. | |
| - | + | ||
| - | + | ||
| - | + | Телеграм: VictorKitov | |
| - | + | Почта: v.v.kitov(at)yandex.ru. | |
| - | + | ==Время занятий== | |
| + | По вторникам 16-20 - 17-55, ауд. 609. | ||
| + | Первое занятие будет 20.02.2024. | ||
| - | + | ==Лекции== | |
| - | [https://disk.yandex.ru/i/ | + | [https://disk.yandex.ru/i/V2u_WSI3EhMETA Задачи глубокого обучения.] |
| - | [https://disk.yandex.ru/i/ | + | [https://disk.yandex.ru/i/Sq3fbS8dcKzxWA Нейросети. Многослойный персептрон.] |
| - | [https://disk.yandex.ru/i/ | + | [https://disk.yandex.ru/i/-mnCj8EseyXOUg Сверточные нейросети.] |
| - | [https://disk.yandex.ru/i/ | + | [https://disk.yandex.ru/i/J9lZG_L9ZqVtcQ Расширение обучающей выборки.] |
| - | [https://disk.yandex.ru/i/ | + | [https://disk.yandex.ru/i/p_pzkp4U9dmknA Оптимизационный метод переноса стиля.] |
| - | [https://disk.yandex.ru/i/ | + | [https://disk.yandex.ru/i/Q9TCAc5I0Uxx4g Трансформационный метод переноса стиля.] |
| - | [https://disk.yandex.ru/i/ | + | [https://disk.yandex.ru/i/rcnl8o_q09dNiQ Патчевый метод переноса стиля.] |
| - | [https://disk.yandex.ru/i/ | + | [https://disk.yandex.ru/i/zmo6vx8_6n3Z0Q Технические улучшения методов стилизации изображений.] |
| - | [https://disk.yandex.ru/i/ | + | [https://disk.yandex.ru/i/j1nf8Ck13TCavQ Концептуальные улучшения методов стилизации изображений.] |
| - | [https://disk.yandex.ru/i/ | + | [https://disk.yandex.ru/i/Ej2UQI4eiuNknw Мульти-стилевые трансформационные модели.] |
| - | [https://disk.yandex.ru/i/ | + | [https://disk.yandex.ru/i/it6nzR-oULcZZA Стилизация видео-данных.] |
| - | [https://disk.yandex.ru/i/ | + | [https://disk.yandex.ru/i/SjTwiaO-gh_DWQ Генеративно-состязательные сети.] |
| - | |||
| - | + | =Экзамен= | |
| + | Оценка за спецкурс ставится только по результатам устного экзамена. | ||
=Рекомендуемые ресурсы= | =Рекомендуемые ресурсы= | ||
| - | * | + | * [https://deepmachinelearning.ru Глубокое машинное обучение], онлайн-учебник по машинному обучению и нейросетям. |
| - | * [https://arxiv.org/pdf/1705.04058.pdf Обзорная статья по переносу стиля | + | * [https://arxiv.org/pdf/1705.04058.pdf Обзорная статья по переносу стиля на изображениях.] |
| - | * [https:// | + | * [https://pytorch.org/tutorials/ Образовательные материалы по библиотеке PyTorch.] |
| - | + | ||
* [https://scholar.google.ru/ Поиск google по статьям.] | * [https://scholar.google.ru/ Поиск google по статьям.] | ||
| - | |||
| - | |||
Текущая версия
О курсе
Спецкурс проходит на ф-те ВМиК в весеннем семестре и посвящен задаче автоматической стилизации изображений, в которой входное изображение необходимо отобразить в стиле, задаваемым другим изображением. Например, это может быть стилизация семейной фотографии под стиль известного художника, либо стилизация дневного фото в ночное, либо преобразование фотогрфии в схематичную книжную иллюстрацию. Для решения задачи существуют современные подходы переноса стиля (style transfer) и генеративно-состязательные сети (generative adversarial networks). Эта задача широко используется в индустрии разлечений (например, мобильное приложение Prisma было самым скачиваемым на Android в странах СНГ в течение 10 дней после выхода), при обработке фотографий и дизайне (функции стилизации были добавлены в Adobe Photoshop 2021), может применяться в мультипликации, наложении спецэффектов в фильмах, видеоиграх и средствах дополненной реальности, а также для более точной настройки методов машинного при обучении на одной предметной области, а применении модели к другой (transfer learning). Помимо изображений указанный подход применим для видеопоследовательностей и данных из других предметных областей (текст, речь и музыка). Основные методы стилизации были предложены в последние 7 лет и опираются на глубокие нейронные сети, базовому изучению которых посвящена начальная часть курса.
Занятия проходят в формате лекций. В процессе прохождения курса каждый студент должен сделать презентацию основных идей и подходов одной из недавних статей, посвященных стилизации изображений, а также представить свои идеи улучшений традиционных методов стилизации изображений и их обосновать.
Пройденный спецкурс вы можете позже перезачесть в учебной части на 4м курсе (по учебному плану вам тогда нужно проходить спецкурс по выбору). Спецкурс познакомит вас с нейросетями - их основными архитектурами (многослойный персептрон, сверточная сеть, автокодировщик, генеративно-состязательные сети), что может служить преимуществом при распределении на кафедры соответствующей направленности.
Лектор
Виктор Владимирович Китов, к.ф.-м.н., преподаватель кафедры математических методов прогнозирования ВМК МГУ.
Телеграм: VictorKitov
Почта: v.v.kitov(at)yandex.ru.
Время занятий
По вторникам 16-20 - 17-55, ауд. 609. Первое занятие будет 20.02.2024.
Лекции
Нейросети. Многослойный персептрон.
Оптимизационный метод переноса стиля.
Трансформационный метод переноса стиля.
Патчевый метод переноса стиля.
Технические улучшения методов стилизации изображений.
Концептуальные улучшения методов стилизации изображений.
Мульти-стилевые трансформационные модели.
Генеративно-состязательные сети.
Экзамен
Оценка за спецкурс ставится только по результатам устного экзамена.
Рекомендуемые ресурсы
- Глубокое машинное обучение, онлайн-учебник по машинному обучению и нейросетям.
- Обзорная статья по переносу стиля на изображениях.
- Образовательные материалы по библиотеке PyTorch.
- Поиск google по статьям.
