Материал из MachineLearning.

Версия 09:24, 16 мая 2023

О курсе

Спецкурс проходит на ф-те ВМиК в весеннем семестре и посвящен задаче автоматической стилизации изображений, в которой входное изображение необходимо отобразить в стиле, задаваемым другим изображением. Например, это может быть стилизация семейной фотографии под стиль известного художника, либо стилизация дневного фото в ночное, либо преобразование фотогрфии в схематичную книжную иллюстрацию. Для решения задачи существуют современные подходы переноса стиля (style transfer) и генеративно-состязательные сети (generative adversarial networks). Эта задача широко используется в индустрии разлечений (например, мобильное приложение Prisma было самым скачиваемым на Android в странах СНГ в течение 10 дней после выхода), при обработке фотографий и дизайне (функции стилизации были добавлены в Adobe Photoshop 2021), может применяться в мультипликации, наложении спецэффектов в фильмах, видеоиграх и средствах дополненной реальности, а также для более точной настройки методов машинного при обучении на одной предметной области, а применении модели к другой (transfer learning). Помимо изображений указанный подход применим для видеопоследовательностей и данных из других предметных областей (текст, речь и музыка). Основные методы стилизации были предложены в последние 7 лет и опираются на глубокие нейронные сети, базовому изучению которых посвящена начальная часть курса.

Занятия проходят в формате лекций. В процессе прохождения курса каждый студент должен сделать презентацию основных идей и подходов одной из недавних статей, посвященных стилизации изображений, а также представить свои идеи улучшений традиционных методов стилизации изображений и их обосновать.

Экзамен

Процедура экзамена и список билетов.

Лектор

Виктор Владимирович Китов, к.ф.-м.н., преподаватель кафедры математических методов прогнозирования ВМК МГУ.

Телеграм: VictorKitov

Почта: v.v.kitov(at)yandex.ru.

Время занятий

По вторникам 16-20 - 17-55, ауд. 609. Первое занятие будет 14.02.2023.

Лекции

Задачи глубокого обучения.

Нейросети. Многослойный персептрон.

Оптимизация нейросетей.

Сверточные нейросети.

Оптимизационный метод переноса стиля.

Трансформационный метод переноса стиля.

Патчевый метод переноса стиля.

Технические улучшения методов стилизации изображений.

Концептуальные улучшения методов стилизации изображений.

Мульти-стилевые трансформационные модели.

Сингулярное разложение.

Семантическая сегментация.

Детекция объектов и instance-сегментация.

Рекомендуемые ресурсы

• Примеры переноса стиля для видео: пример 1, пример 2, пример 3.
• Обзорная статья по переносу стиля для изображений.
• Лекции курса в Стэнфорде по сверточным нейронным сетям.
• Топовые конференции по машинному обучению и компьютерному зрению (самые интересные статьи там)
• Поиск google по статьям.
• Образовательные материалы по библиотеке глубинного обучения PyTorch.
• Книга по глубинному обучению.