Алгебра над алгоритмами и эвристический поиск закономерностей

Материал из MachineLearning.

(Различия между версиями)

Перейти к: навигация, поиск

Текущая версия

Руководитель спецсеминара: д.ф.-м.н., профессор Дьяконов Александр Геннадьевич

Направления работы на спецсеминаре

Содержание

1 Направления работы на спецсеминаре
2 Заседания спецсеминара
3 Заседания 2019—2020 уч. года
4 Участники прошлых лет
5 Выпускники спецсеминара
6 Некоторые решаемые прикладные задачи

В рамках работы на спецсеминаре есть два направления исследования:

Теоретическое. Проводится в рамках алгебраического подхода к решению задач распознавания. Суть подхода: на алгоритмах, которые решают задачи обработки и анализа данных, специальным образом вводятся алгебраические операции. Например, можно складывать алгоритмы (получается опять алгоритм), умножать и т. д. Среди получаемых алгебраических выражений над «естественными» алгоритмами есть высокоэффективные алгоритмы. На спецсеминаре рассматриваются вопросы: как их строить, анализировать, реализовывать на ЭВМ и т. д. и т. п. Здесь же возникают задачи современной теории интерполяции: построения функций специального вида, заданных частично. Можно заниматься дискретным направлением: решать подобные задачи для функций, принимающих значения 0 и 1. Данное направление представляет особую ценность студентам, которые хотят получить самостоятельные результаты в науке и продолжить обучение в аспирантуре.
Прикладное. Решаются реальные прикладные задачи анализа данных (data mining). Например, построение рекомендательных систем, прогнозирование свойств динамических графов (в том числе и графов социальных сетей), прогнозирование поведения потребителей, анализ метаданных, классификация сигналов головного мозга, классификация сигналов-показаний работы механизмов, настройка спам-фильтров, автоматическая рубрикация текстов, прогнозирование финансовых временных рядов. От студентов требуется желание глубоко понять задачу (данные и скрытые в них закономерности), умение быстро осваивать новые методы (в незнакомой области), хорошо программировать, выдвигать гипотезы и фантазировать (последнее очень важно).

См. также «Правила для постоянных участников».

Заседания спецсеминара

В осеннем семестре 2019 года заседания будут проходить по понедельникам, начиная с 16 сентября, раз в две недели (через одну), начало в 18:20, ауд. 508. Вход свободный.

Заседания 2019—2020 уч. года

Расписание доступно по ссылке.

Дата	Докладчик	Доклад	Материалы
16 сентября 2019	Иванов Сергей Максимович (617)	Метод обратного распространения ошибки Пытаемся навести порядок в математике, стоящей за концепцией обучения нейросетей.	слайды
16 сентября 2019	Иванов Сергей Максимович (617)	Задачи глубинного обучения Рассматриваем, какие задачи можно решать при помощи методов глубинного обучения.	слайды
30 сентября 2019	Думбай Алексей Дмитриевич (617)	Python. Подходы, приемы, интересные факты.	слайды
28 октября 2019	Иванов Сергей Максимович (617)	Трансформер	слайды
28 октября 2019

Заседния в предыдущих семестрах:

Участники прошлых лет

Год выпуска	Участники
2018 бак	Иванов Сергей Доклад «Проверка гипотезы Birthday Effect» Курсовая работа «Методы Детектирования Аномалий». Дипломная работа «Нейросетевая генерация музыки»
2017 бак	Никишин Евгений Доклад «Работы Pedro Domingos». Доклад «Современные методы выделения сообществ в социальных графах». Курсовая работа «Методы выделения сообществ в социальных графах». Преддипломная практика «Поиск информативных признаковых описаний исполняемых файлов и подходящих методов машинного обучения для детектирования вредоносных объектов». Доклад «Asymmetric LSH for Sublinear Time Maximum Inner Product Search». ВКР «Снижение размерности больших массивов данных». Каюмов Эмиль Доклад о работах Jure Leskovec из Стэнфордского университета. Доклад «Методы восстановления пропусков в данных». Курсовая работа «Методы восстановления пропусков в данных». Преддипломная практика «Разработка модуля кластеризации запросов и ответов веб-ресурса для выявления бизнес-логики в составе системы обнаружения атак на веб-приложения». Доклад «Обзор рекуррентных нейронных сетей и статьи Visualizing and Understanding Recurrent Networks». ВКР «Автоматическое выделение признаков в сигналах кардиограмм в задаче выявления болезней сердца» Севастопольский Артём Доклад о работах Hans-Peter Kriegel из университета Ludwig-Maximilians-Universität. Доклад «Извлечение признаков из текстуры изображений». Доклад «Построение признаков снимков глазного дна для диагностики болезней глаз». Курсовая работа «Построение признаков снимков глазного дна для диагностики болезней глаз». Преддипломная практика «Реализация детектора ключевых точек лица на основе композиции карт глубин и текстуры при помощи глубоких свёрточных нейронных сетей». Доклад «Глубокие нейронные сети для сегментации изображений. Программирование нейронных сетей.» ВКР «Методы распознавания глаукомы на основе нейронных сетей»
2018 маг	Викулин Всеволод Курсовая работа «Автоматическое выделение признаков в задаче классификации сигналов». Кудрявцев Георгий Курсовая работа «Методы сравнения траекторий». Доклад «Сверточные сети и метод водораздела для семантической сегментации RGBD-видео». Доклад «Закон Бенфорда». Рысьмятова Анастасия Доклад «Основы эконометрики». Доклад «Выявление мошенничества с кликами в интернет-рекламе». Курсовая работа «Методы отбора признаков». Доклад «Классификация текстов». Доклад «Анализ чувствительность сверточных нейронных сетей». Преддипломная практика «Прикладные задачи анализа данных». ВКР «Использование сверточных нейронных сетей для задачи классификации текстов». Курсовая работа «Ранжирование текстов литературных произведений». Вихрева Мария Курсовая работа «Dependency detection with Bayesian Networks». Доклад «Отбор признаков в графе». Доклад «Распространение эпидемий в безмасштабных сетях». Доклад «Анализ настроения текста». Преддипломная практика «Анализ геопространственных агрегированных данных». Доклад «Решение хакатона Q&A DeepHack по Allen AI Challenge». ВКР "Распространение эпидемий в графах" Вихрева М. В. Распространение новостей в социальной сети // Сборник тезисов XXIII Международной научной конференции студентов, аспирантов и молодых учёных «Ломоносов-2016», секция «Вычислительная математика и кибернетика», М: МАКС Пресс, 2016. — C.123.
2017 маг	Кибитова Валерия Доклад «Методы распознавания сарказма в тексте». Курсовая работа «Методы распознавания сарказма в тексте». Магистерская диссертация «Ансамбль алгоритмов для определения ишемической болезни сердца по электрокардиограмме». Гурьянов Алексей Магистерская диссертация «Стратегии исследования окружений в обучении с подкреплением с непрерывным пространством состояний».
аспиранты 1 г.о.	Трофимов Михаил Доклад «Квантовое машинное обучение». Дипломная работа «Обобщённые факторизационные машины». Доклад «Локально низкоранговая факторизационная машина». Доклад «*Дистрибутивная гипотеза Харриса, 2vec». Доклад «(Глубокое) обучение с подкреплением». Доклад «Факторизационные машины». Трофимов М. И. «Использование нелинейных смесей экспертов в задачах классификации» // Сборник тезисов XXII Международной научной конференции студентов, аспирантов и молодых ученых «Ломоносов-2015». Издательский отдел факультета вычислительной математики и кибернетики МГУ имени М. В. Ломоносова, 2015. С. 71-72. Трофимов М. И. «Факторизационная машина с локальным низким рангом весовой матрицы» // Сборник тезисов XXIII Международной научной конференции студентов, аспирантов и молодых ученых «Ломоносов-2016». Издательский отдел факультета вычислительной математики и кибернетики МГУ имени М. В. Ломоносова, 2016. С. 136-138. Semenov A., Natekin A., Nikolenko S. I., Upravitelev P., Trofimov M., Kharchenko M. «Discerning Depression Propensity Among Participants of Suicide and Depression-Related Groups of Vk.com» // Analysis of Images, Social Networks and Texts. 4th International Conference, AIST 2015 // vol 542: Series: Communications in Computer and Information Science. Springer International Publishing, 2015. Ch. 3. Ivan Guz, Vasily Leksin, Mikhail Trofimov, Aleksandra Fenster, «Evolution of Content Moderation Approaches for Online Classifieds: From Action Recommendations to Automation» // ICML'15 Workshop on Crowdsourcing and Machine Learning Mansour Ahmadi, Giorgio Giacinto, Dmitry Ulyanov, Stanislav Semenov, Mikhail Trofimov, «Novel feature extraction, selection and fusion for effective malware family classification», ACM Conference on Data and Applications Security and Privacy (CODASPY 2016) Новиков, Трофимов, Оселедец, «Exponential Machines**»
аспиранты 3 г.о.	Нижибицкий Евгений Курсовая работа «Обзор методов классификации документов». Доклад «Три задачи прогноза на основе текстов». Курсовая работа «Методы прогнозирования на основе текстов». Доклад «Трекинг при помощи фильтра частиц». Доклад «Относительная перплексия как мера качества тематических моделей» на конференции «Ломоносов 2014» (тезис (pdf), презентация (pdf)). Нижибицкий Е. А. Относительная перплексия как мера качества тематических моделей // Сборник тезисов XXI Международной научной конференции студентов, аспирантов и молодых ученых «Ломоносов-2014». Издательский отдел факультета вычислительной математики и кибернетики МГУ имени М. В. Ломоносова, 2014. С. 37-40. Дипломная работа «Трекинг объектов на видео при помощи фильтра частиц». 3-е место в конкурсе дипломных работ 2014 года. Нижибицкий Е. А. Трекинг в видеопоследовательностях при помощи фильтра частиц // Сборник тезисов лучших дипломных работ факультета ВМК МГУ 2014 года. Издательский отдел факультета вычислительной математики и кибернетики МГУ имени М. В. Ломоносова, 2014. С. 46-47. Нижибицкий Е. А. Композиции признаков для видеотрекинга при помощи фильтра частиц // Машинное обучение и анализ данных. 2015. T. 1, № 11. C. 1517 - 1528. Остапец Андрей Курсовая работа «Обзор методов линейного регрессионного анализа». Доклад «Deep Learning». Курсовая работа «Применение методов регрессионного анализа для решения задачи прогнозирования временных финансовых рядов». Доклад «Анализ сигналов сенсорных устройств». Остапец А. А. Анализ сигналов сенсорных устройств // Сборник тезисов XXI Международной научной конференции студентов, аспирантов и молодых ученых «Ломоносов-2014». Издательский отдел факультета вычислительной математики и кибернетики МГУ имени М. В. Ломоносова, 2014. С. 41-43. Дипломная работа «Анализ сигналов сенсорных устройств». Остапец А. А. Анализ сигналов сенсорных устройств // Сборник тезисов лучших дипломных работ факультета ВМК МГУ 2014 года. Издательский отдел факультета вычислительной математики и кибернетики МГУ имени М. В. Ломоносова, 2014. С. 44-46. Остапец А. А. Определение местоположения телефона по данным сенсоров // Машинное обучение и анализ данных. 2014. T. 1, № 9. C. 1232—1245 Остапец А. А. Алгебраический подход к задаче иерархической классификации текстов // Сборник тезисов XXII Международной научной конференции студентов, аспирантов и молодых ученых «Ломоносов-2015». Издательский отдел факультета вычислительной математики и кибернетики МГУ имени М. В. Ломоносова, 2015. С. 54-55. Остапец А. А. Определение категории видеозаписи на основе текстовых метаданных // Сборник тезисов XXIII Международной научной конференции студентов, аспирантов и молодых учёных «Ломоносов-2016». Издательский отдел факультета вычислительной математики и кибернетики МГУ имени М. В. Ломоносова, 2016. С. 132-134. Остапец А. А. Об одном подходе к решению задачи автоматической классификации товаров на основе текстовой информации // Материалы Международной научной конференции "Современные методы и проблемы теории операторов и гармонического анализа и их приложения - VI", Издательский центр ДГТУ, Ростов, 2016. С. 164-165.

Выпускники спецсеминара

Год выпуска	Выпускники
Аспирант, 2010	Карпович Павел Карпович П. А. k-сингулярные системы точек в пространстве l1 // Сборник тезисов XVI Международной научной конференции студентов, аспирантов и молодых учёных «Ломоносов-2009», секция «Вычислительная математика и кибернетика», М: МАКС Пресс, 2009. — C.34. Карпович П. А. Эффективная реализация алгоритмов распознавания образов // Журнал вычислительной математики и математической физики, 2009, Т. 49, № 8. C.1510-1516. Карпович П. А. О задаче разделения системы точек в пространсте l1 на подсистемы с невырождеными матрицами попарных расстояний // Тезисы конференции МФТИ, Секция проблем интеллектуального анализа данных, распознавания и прогнозирования. — М.: ГОУ ВПО «Московский физико-технический институт (государственный университет)», 2009. — С. 52. Карпович П. А., Дьяконов А. Г. Критерий k-сингулярности систем точек в алгебраическом подходе к распознаванию // 14-я Всероссийская конференция «Математические методы распознавания образов» Владимирская обл., г. Суздаль, 21-26 сентября 2009 г.: Сборник докладов. — М. МАКС Пресс, 2009. С. 41-44. Карпович П.А. Разделение системы точек на подмножества с невырожденными матрицами попарных расстояний // Материалы XVII Международной конференции студентов и аспирантов по фундаментальным наукам «Ломоносов 2010». – М.: Изд. отдел ВМиК МГУ, МАКС Пресс, 2010. – С. 87-88. Карпович П.А. Критерии k-сингулярности и разделение 1-сингулянрных систем // Вестник Московского университета. Секция 15. “Вычислительная математика и кибернетика” – 2010. № 4. Карпович П.А. Дьяконов А.Г. K-сингулярные системы точек, приложения в алгебраическом подходе к распознаванию // Тезисы докладов Международной научной конференции ИОИ-8 Кипр, Пафос - 2010. Диссертация: «K-сингулярные системы точек в алгебраическом подходе к распознаванию образов» (2010, успешно защищена 18.02.2011 по специальности 01.01.09).
2015 бак	Славнов Константин Доклад «Small-World Phenomena» Курсовая работа «Обработка астрономических снимков: многоуровневые модели и эвристический подход» Доклад «Некоторые задачи анализа социальных сетей» Выпускная квалификационная работа «Анализ социальных графов»
2015	Рыжков Александр Доклад «Алгоритмы анализа и обработки цифровых сигналов». Курсовая работа «Обзор и применение методов прогнозирования финансовых временных рядов». Доклад «Язык программирования Julia». Рыжков А. М. Гистограммный подход к прогнозированию финансовых временных рядов // Сборник тезисов XXI Международной научной конференции студентов, аспирантов и молодых ученых «Ломоносов-2014». Издательский отдел факультета вычислительной математики и кибернетики МГУ имени М. В. Ломоносова, 2014. С. 84-85. Рыжков А. М. Гистограммный подход к прогнозированию финансовых временных рядов // Сборник статей молодых ученых факультета ВМК МГУ 2014 года. Издательский отдел факультета вычислительной математики и кибернетики МГУ имени М. В. Ломоносова, 2014. С. 82-105. Доклад «Ансамблирование алгоритмов машинного обучения». Доклад «Deep plankton learning — road to the top». Доклад «Композиции алгоритмов, основанные на случайном лесе». Дипломная работа «Композиции алгоритмов, основанные на случайном лесе». Харациди Олег Доклад «Фильтрация оскорблений в текстовых сообщениях». Курсовая работа «Обзор методов восстановления ациклических зависимостей между случайными переменными». Доклад «Deep Learning 2». Харациди О. А. Классификация видов физической активности человека по показаниям акселерометра и гироскопа // Машинное обучение и анализ данных. 2014. T. 1, № 9. C. 1261—1272 Дипломная работа «Анализ сигналов кровяного давления».
2014	Нижибицкий Евгений Курсовая работа «Обзор методов классификации документов». Доклад «Три задачи прогноза на основе текстов». Курсовая работа «Методы прогнозирования на основе текстов». Доклад «Трекинг при помощи фильтра частиц». Доклад «Относительная перплексия как мера качества тематических моделей» на конференции «Ломоносов 2014» (тезис (pdf), презентация (pdf)). Дипломная работа «Трекинг объектов на видео при помощи фильтра частиц». 3-е место в конкурсе дипломных работ 2014 года. Статья «Композиции признаков для видеотрекинга при помощи фильтра частиц». Остапец Андрей Курсовая работа «Обзор методов линейного регрессионного анализа». Доклад «Deep Learning». Курсовая работа «Применение методов регрессионного анализа для решения задачи прогнозирования временных финансовых рядов». Доклад «Анализ сигналов сенсорных устройств». Остапец А.А. Анализ сигналов сенсорных устройств // Сборник тезисов XXI Международной научной конференции студентов, аспирантов и молодых ученых «Ломоносов-2014». Издательский отдел факультета вычислительной математики и кибернетики МГУ имени М.В. Ломоносова, 2014. С. 41-43. Дипломная работа «Анализ сигналов сенсорных устройств». Остапец А.А. Анализ сигналов сенсорных устройств // Сборник тезисов лучших дипломных работ факультета ВМК МГУ 2014 года. Издательский отдел факультета вычислительной математики и кибернетики МГУ имени М.В. Ломоносова, 2014. С. 44-46. Фонарев Александр Курсовая работа «Обзор алгоритмов бустинга». Доклад Исправление опечаток в поисковых запросах. Ромов Петр Алексеевич раздолбай
2013	Бобрик Ксения Тема работы «Прогнозирование временных рядов». Ермушева Александра Курсовая работа «Простые алгоритмы коллаборативной фильтрации». Тема преддипломной практики «Разработка контентных алгоритмов рекомендаций для видеосервиса». Дипломная работа «Задачи анализа данных с нестандартным функционалом качества». Кириллов Александр Курсовая работа «Матричное разложение в задаче анализа текстов». Дипломная работа «Дизъюнктивные нормальные формы специального вида для функций с малым количеством нулей». Тема преддипломной практики «Задача оптимизации и моделирования при настройке рекомендательной системы». Второе место на конкурсе Интернет-математика «Relevance Prediction Challenge» (лучший результат среди российских участников). Figurnov M., Kirillov A. Linear combination of random forests for the Relevance Prediction Challenge — 2012. Кириллов А. Н. Предсказание связности графа. // Сборник тезисов XIX Международной научной конференции студентов, аспирантов и молодых ученых «Ломоносов-2012». Секция «Вычислительная математика и кибернетика». М.: МАКС Пресс, 2012, с. 101—102. Кириллов А. Н. Сравнение методов предсказания появления связей в графе. // Сборник докладов 9-й международной конференции «Интеллектуализация обработки информации-2012», М: Торус Пресс, 2012. — С. 629—632. Фигурнов М. В., Кириллов А. Н. Линейная комбинация случайных лесов в задаче предсказания релевантности документов // Сборник докладов 9-й международной конференции «Интеллектуализация обработки информации-2012», М: Торус Пресс, 2012. — С. 648—651. Кондрашкин Дмитрий (перевёлся на другой спецсеминар) Курсовая работа «Обобщение критериев k-сингулярности на булев случай». Кондрашкин Д. А. Критерии представления функции многих переменных в виде суммы функций меньшего числа переменных. // Сборник тезисов XX Международной научной конференции студентов, аспирантов и молодых ученых «Ломоносов-2013». Секция «Вычислительная математика и кибернетика». М.: МАКС Пресс. 2013. — С. 52—53. Кондрашкин Д. А. Метрические критерии представления функции двух переменных в виде суммы функций одной переменной. // Сборник тезисов лучших курсовых работ 2012 года. 2012. — С. 21. Победа в конкурсе курсовых работ 2012 года. Курсовая работа «Метрические критерии представления функции двух переменных в виде суммы функций одной переменной». Фигурнов Михаил Курсовая работа «Метрические критерии k-сингулярности». Дипломная работа «Системы точек с вырожденными матрицами попарных расстояний». Тема преддипломной практики «Технология разработки рекомендательных систем». Второе место на конкурсе Интернет-математика «Relevance Prediction Challenge» (лучший результат среди российских участников). Figurnov M., Kirillov A. Linear combination of random forests for the Relevance Prediction Challenge — 2012. Фигурнов М. В. Линейная комбинация случайных лесов в задаче предсказания релевантности документов. // Сборник тезисов XIX Международной научной конференции студентов, аспирантов и молодых ученых «Ломоносов-2012». Секция «Вычислительная математика и кибернетика». М.: МАКС Пресс, 2012, с. 107—109. Фигурнов М. В., Кириллов А. Н. Линейная комбинация случайных лесов в задаче предсказания релевантности документов // Сборник докладов 9-й международной конференции «Интеллектуализация обработки информации-2012», М: Торус Пресс, 2012. — С. 648—651.
2012	Платонова Елена Семестровая работа (5 семестр) «Муравьиные алгоритмы». Тема работы «Информационный поиск». Доклад «Классический информационный поиск: реализация и методы» (PDF, 1,78Мб). Дипломная работа «Градиентные методы ранговой регрессии в информационном поиске».
2010	Ахламченкова Ольга Дипломная работа «Машинное обучение для ранжирования документов». Токарева (Одинокова) Евгения Дипломная работа «Методы иерархической классификации текстов» (PDF, 5.16Мб).
2009	Власова Юлия Дипломная работа «Генерация признаков в задаче классификации сигналов» (PDF, 929 КБ). Власова Ю. В. Применение генетических алгоритмов в задаче классификации сигналов (приложение в BCI) // Сборник тезисов XVI Международной научной конференции студентов, аспирантов и молодых учёных «Ломоносов-2009», секция «Вычислительная математика и кибернетика», М: МАКС Пресс, 2009. — C.17. Власова Ю. В. Применение генетических алгоритмов в задаче классификации сигналов (приложение в BCI) // Доклады 14-й Всероссийской конференции «Математические методы распознавания образов», М.: МАКС Пресс, 2009, С. 96-99. Логинов Вячеслав Дипломная работа «Прогнозирование временных рядов с помощью рекуррентных нейросетей с откликом». Фёдорова Валентина Дипломная работа «Локальные методы прогнозирования временных рядов». Федорова В. П. Локальные методы прогнозирования временных рядов // Сборник тезисов XVI Международной научной конференции студентов, аспирантов и молодых учёных «Ломоносов-2009», секция «Вычислительная математика и кибернетика», М: МАКС Пресс, 2009. — C.87. Чучвара Алексндра (бакалавр) Квалификационная работа «Частичное машинное обучение в задачах классификации текстов» (PDF, 627 КБ).
2008	Ломова Дарья Дипломная работа «Выделение закономерностей во временных рядах методом анализа главных компонент». Вершкова Ирина Дипломная работа «Локальная и глобальная согласованность в интеллектуальном анализе данных».
2007	Кнорре Анна Дипломная работа «Надежность алгоритмов распознавания, основанных на синтезе дизъюнктивных нормальных форм». Карпович Павел Дипломная работа «Эффективная реализация алгоритмов распознавания образов». Сиваченко Евгений Дипломная работа «Нейросетевой поиск логических закономерностей».
2006	Ховратович (Курятникова) Татьяна Дипломная работа «Критерии корректности в задачах распознавания образов с малым числом признаков». Курятникова Т. С. Критерии корректности алгебраического и линейного замыкания АВО для малых размерностей // Материалы XII Международной конференции студентов, аспирантов и молодых учёных «Ломоносов», секция «Вычислительная математика и кибернетика». М.: Изд. отд. ВМиК МГУ, 2006. — c. 32-33. Мошин Николай Дипломная работа «Эффективная реализация алгоритмов решения задачи выполнимости».
2005	Каменева Наталия Дипломная работа «Эффективные логические алгоритмы распознавания, основанные на синтезе ДНФ». Силкин Леонид Дипломная работа «Оценка разделяющей способности признаков при кодировании информации в задачах распознавания».

Некоторые решаемые прикладные задачи

Прогнозирование временных рядов По характеристикам процесса в прошлом предсказать поведение в будущем. Знание о прошлом может быть неполным или ошибочным. Типичный пример: прогнозирование денежных сумм, которые будут сниматься с банкомата в течение следующей недели.
Классификация технических сигналов и сигналов головного мозга По описанию изменения некоторой характеристики процесса необходимо определить её класс. Например, по электрокортикограмме определить ментальное состояние человека. При этом обучающая выборка (данные, которые у нас есть) была собрана достаточно давно, а тестирование алгоритма будет проводиться потом (при изменённых внешних условиях, а следовательно, при изменённых характеристиках данных).
Фильтрация спама Настроить спам-фильтр на некотором универсальном обучающем множестве (данных спам-ловушек) так, чтобы он хорошо работал на компьютере конкретного пользователя (без дополнительной донастройки).
Иерархическая классификация текстов Написать алгоритм автоматической категоризации документов. Например, новостные рассылки необходимо распределить по каталогам «спорт/футбол», «спорт/биатлон», «музыка/концерты», «музыка/рок/исполнители» и т. д.
Ранжирование документов на основе обучающего множества Написать алгоритм, который оценивает релевантность документа поисковому запросу. Для фиксированного запроса упорядочить документы (используя их признаковые описания) так, чтобы порядок отражал «адекватность» запроса.
Прогноз связности графа социальной сети Предсказать изменения динамического графа социальной сети, в частности, появление новых рёбер.
Прогнозирование успешности грантов и проектов По описанию заявки оценить перспективность выполнения данного проекта.
Разработка рекомендательного алгоритма, который делает актуальные предложения купить какой-то товар, воспользоваться услугой или прочитать материал.
Предсказывание визитов покупателей и сумм покупок для сети супермаркетов Разработка алгоритма, который предсказывает дату первого визита и сумму покупки каждого клиента.
Оценка фотографий по метаданным Прогноз «интересности» фото-материалов на основе анализа названия, описания, GPS-координат съёмки и т.п.
Задача кредитного скоринга Прогнозирование надёжности клиента банка по обязательствам выплаты процентов кредита.

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%90%D0%BB%D0%B3%D0%B5%D0%B1%D1%80%D0%B0_%D0%BD%D0%B0%D0%B4_%D0%B0%D0%BB%D0%B3%D0%BE%D1%80%D0%B8%D1%82%D0%BC%D0%B0%D0%BC%D0%B8_%D0%B8_%D1%8D%D0%B2%D1%80%D0%B8%D1%81%D1%82%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9_%D0%BF%D0%BE%D0%B8%D1%81%D0%BA_%D0%B7%D0%B0%D0%BA%D0%BE%D0%BD%D0%BE%D0%BC%D0%B5%D1%80%D0%BD%D0%BE%D1%81%D1%82%D0%B5%D0%B9»

Категории: Учебные курсы | Семинары | Научные школы | МГУ

Алгебра над алгоритмами и эвристический поиск закономерностей

Материал из MachineLearning.

Текущая версия

Направления работы на спецсеминаре

Содержание

Заседания спецсеминара

Заседания 2019—2020 уч. года

Участники прошлых лет

Выпускники спецсеминара

Некоторые решаемые прикладные задачи

Просмотры

Личные инструменты

Навигация

Поиск

Инструменты

@@ Строка 3: / Строка 3: @@
 == Направления работы на спецсеминаре ==
-{{tip|
-См. также [[Алгебра над алгоритмами и эвристический поиск закономерностей/правила для постоянных участников|«Правила для постоянных участников»]].
-}}
-{{notice|
-[[Алгебра над алгоритмами и эвристический поиск закономерностей/информация для второкурсников|'''Информация для второкурсников!''']]
-}}
 {{TOCright}}
 '''В рамках работы на спецсеминаре есть два направления исследования:'''
 # '''Теоретическое.''' Проводится в рамках '''алгебраического подхода''' к решению задач распознавания. Суть подхода: на алгоритмах, которые решают задачи обработки и анализа данных, специальным образом вводятся алгебраические операции. Например, можно складывать алгоритмы (получается опять алгоритм), умножать и&nbsp;т.&nbsp;д. Среди получаемых алгебраических выражений над «естественными» алгоритмами есть высокоэффективные алгоритмы. На спецсеминаре рассматриваются вопросы: как их строить, анализировать, реализовывать на ЭВМ и&nbsp;т.&nbsp;д. и&nbsp;т.&nbsp;п. Здесь же возникают задачи '''современной теории интерполяции''': построения функций специального вида, заданных частично. Можно заниматься '''дискретным направлением''': решать подобные задачи для функций, принимающих значения 0 и 1.  Данное направление представляет '''особую ценность студентам, которые хотят получить самостоятельные результаты в науке и продолжить обучение в аспирантуре'''.
 # '''Прикладное.''' Решаются реальные прикладные задачи анализа данных (data mining). Например, построение рекомендательных систем, прогнозирование свойств динамических графов (в том числе и графов социальных сетей), прогнозирование поведения потребителей, анализ метаданных, классификация сигналов головного мозга, классификация сигналов-показаний работы механизмов, настройка спам-фильтров, автоматическая рубрикация текстов, прогнозирование финансовых временных рядов. От студентов требуется желание глубоко понять задачу (данные и скрытые в них закономерности), умение быстро осваивать новые методы (в незнакомой области), хорошо программировать, выдвигать гипотезы и фантазировать (последнее очень важно).
+{{tip|
+См. также [[Алгебра над алгоритмами и эвристический поиск закономерностей/правила для постоянных участников|«Правила для постоянных участников»]].
+}}
 == Заседания спецсеминара ==
 {{notice|
-В осеннем семестре заседания будут проходить по четвергам в ауд. 637, начало в 18:00. Вход свободный. Начало - 29 сентября.
+В осеннем семестре 2019 года заседания будут проходить по понедельникам, начиная с 16 сентября, раз в две недели (через одну), начало в 18:20, ауд. 508. Вход свободный.
 }}
-== Заседания 2016—2017 уч. года ==
+== Заседания 2019—2020 уч. года ==
+Расписание доступно по [https://docs.google.com/spreadsheets/d/1ltdgH2T6hn959LPdpUfIrLKRzVBCpP7vNNyZnMbzalI/edit?usp=sharing ссылке].
 {| class="wikitable"
@@ Строка 28: / Строка 27: @@
 ! Доклад
 ! Материалы
 |-
-| 29 сентября 2016
+| 16 сентября 2019
-| ''Слипенчук Павел Владимирович'', аспирант каф. ИУ-8 (Информационная безопасность) МГТУ им.Баумана; ведущий инжерен Департамента Безопасности Сбербанка, специалист по разработке систем фрод-мониторинга
+| ''Иванов Сергей Максимович'' (617)
-| '''"Информационная стеганография"'''
+| '''Метод обратного распространения ошибки'''
-"Стеганография -- это междисциплинарная наука и искусство сокрытия информации внутри другой информации. В эпоху активного развития вычислительной техники и BigData задачи стеганографии и противодействия стеганографии (стегоанализа) становяться все более и более актуальными. Отдельный интерес представляет собой синтез стеганографии и машинного обучения. В докладе будет объяснена актуальность стеганографии в XXI веке, будут приведены информационно-теоретческие модели стеганографических каналов передачи данных и высказан ряд авторских идей о синтезе стеганорафии и машинного обучения."
+Пытаемся навести порядок в математике, стоящей за концепцией обучения нейросетей.
+| [[Media:1._Backprop.pdf|слайды]]
-| [[Медиа:Steganography.pdf|слайды (pdf)]]
 |-
-| rowspan=2| 6 октября 2016
+| 16 сентября 2019
-| ''Никишин Евгений'', студент 4-го курса
+| ''Иванов Сергей Максимович'' (617)
-| '''Asymmetric LSH for Sublinear Time Maximum Inner Product Search'''
+| '''Задачи глубинного обучения'''
-| [[Медиа:ALSH_for_MIPS.pdf|слайды (pdf)]], [https://papers.nips.cc/paper/5329-asymmetric-lsh-alsh-for-sublinear-time-maximum-inner-product-search-mips.pdf статья]
-|-
+Рассматриваем, какие задачи можно решать при помощи методов глубинного обучения.
-| ''Остапец Андрей'', аспирант 3 г.о.
-| '''ACM RecSys Challenge 2016'''
-| [http://2016.recsyschallenge.com/ соревнование]
-|-
+|[[Media:2._DL_tasks.pdf|слайды]]
-| 13 октября 2016
-| ''Севастопольский Артем'', 4-й курс
-| '''Глубокие нейронные сети для сегментации изображений. Программирование нейронных сетей.'''
-| [[Медиа:NN_for_segmentation_and_Keras.pdf‎|слайды (pdf)]] [http://nbviewer.jupyter.org/github/seva100/seminar-talks/blob/master/Overview%20of%20Keras%20library%20for%20Python/Keras%20tutorial-precomputed.ipynb ipython notebook (Keras)] [http://www.cv-foundation.org/openaccess/content_cvpr_2015/papers/Long_Fully_Convolutional_Networks_2015_CVPR_paper.pdf статья 1 (FCN)] [https://arxiv.org/pdf/1505.04597.pdf статья 2 (U-Net)]
 |-
-| rowspan=2| 20 октября 2016
+| 30 сентября 2019
-| ''Иванов Сергей'', 3-й курс
+| ''Думбай Алексей Дмитриевич'' (617)
-| '''Проверка гипотезы [https://en.wikipedia.org/wiki/Birthday_effect Birthday Effect]''' (до 30 минут)
+| '''Python. Подходы, приемы, интересные факты.'''
-|
+| [[Media:Dumbaj_python.pdf|слайды]]
 |-
-| ''Кудрявцев Георгий'', студент 5 курса
+| 28 октября 2019
-| '''Чат боты'''
+| ''Иванов Сергей Максимович'' (617)
-|
+| '''Трансформер'''
+| [[Media:Transformer.pdf|слайды]]
 |-
-| ''t.b.a.''
+| 28 октября 2019
-| ''Трофимов Михаил'', аспирант 1 г.о.
+|
-| '''Квантовое машинное обучение.'''
 |
-|-
-| ''t.b.a.''
-| ''Каюмов Эмиль'', 4-й курс
-| '''Обзор рекуррентных нейронных сетей и статьи Visualizing and Understanding Recurrent Networks''' (около 40 минут)
-| [https://arxiv.org/pdf/1506.02078.pdf arxiv]
-|
-|-
-| ''t.b.a.''
-| ''Гурьянов Алексей'', 6-й курс
-| '''Обучение с подкреплением.'''
 |
 |-
-| ''t.b.a.''
-| ''Рысьмятова Анастасия'', 5-й курс
-| '''Sequence Graph Transform (SGT): A Feature Extraction Function for Sequence Data Mining'''
-| [https://arxiv.org/pdf/1608.03533.pdf arxiv]
-|
-|-
-| ''t.b.a.''
-| ''Кибитова Валерия', 6-й курс
-| '''Резюмирование новостных источников и мнений'''
-|
 |}
@@ Строка 103: / Строка 72: @@
 Заседния в предыдущих семестрах:
+* [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2018-2019 уч. года]].
+* [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2016-2017 уч. года]].
 * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2015-2016 уч. года]].
 * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2014-2015 уч. года]].
-* [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2013-2014 уч. года | Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2013-2014 уч. года (осенний семестр)]].
+* [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2013-2014 уч. года | Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2013—2014 уч. года (осенний семестр)]].
 * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2012-2013 уч. года (весенний семестр)]].
 * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2012-2013 уч. года (осенний семестр)]].
@@ Строка 112: / Строка 83: @@
 * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2010-2011 уч. года (весенний семестр)]].
-== Текущие задания участников спецсеминара ==
+== Участники прошлых лет ==
-{{tip|
-Список источников для потенциальных докладов.
-'''Доклады по статьям'''
-* http://jmlr.org/proceedings/
-* https://nips.cc/Conferences/2015/AcceptedPapers
-'''Доклады по авторам'''
-* Hans-Peter Kriegel [[https://scholar.google.de/citations?user=DBf9LC4AAAAJ&hl=de%7C]]
-* Pedro Domingos http://homes.cs.washington.edu/~pedrod/
-* Samory Kpotufe http://www.princeton.edu/~samory/
-* Randal Olson http://www.randalolson.com/publications/
-* Jure Leskovec http://cs.stanford.edu/people/jure/
-}}
-{| class="wikitable"
-|-
-! Участник
-! Задание (каждый сам заполняет свою ячейку)
-! Комментарий
-|-
-| '''Нижибицкий Евгений''' (А3)
-| Подготовка плана-проспекта диссертации, статьи в журнале из списка ВАК (подача до декабря).
-|
-|-
-| '''Остапец Андрей''' (А3)
-| Подготовка плана-проспекта диссертации, статьи в журнале из списка ВАК (подача до декабря).
-|
-|-
-| '''Кудрявцев Георгий''' (517)
-| Выбор темы курсовой работы
-|
-|-
-| '''Рысьмятова Анастасия''' (517)
-| Выбор темы для курсовой работы
-|
-|-
-| '''Вихрева Мария''' (517)
-| Выбор темы для курсовой работы
-|
-|-
-| '''Каюмов Эмиль''' (417)
-| Выявление ишемической болезни сердца по сигналам кардиограмм.
-|
-|-
-| '''Никишин Евгений''' (417)
-| Выбор темы для ВКР
-|
-|-
-| '''Севастопольский Артём''' (417)
-| ВКР "Методы распознавания глаукомы на основе нейронных сетей"
-|
-|-
-| '''Иванов Сергей''' (317)
-| Проверка гипотезы [https://en.wikipedia.org/wiki/Birthday_effect Birthday Effect]
-|
-|-
-| '''Трофимов Михаил''' (МФТИ)
-| Подготовка плана-проспекта диссертации
-|
-|-
-| '''Гущин Александр''' (МФТИ)
-| Выбор темы для ВКР
-|
-|-
-|'''Кибитова Валерия''' (617)
-|
-|
-|}
-== Участники спецсеминара ==
 {| border="1"
  !Год выпуска ||Участники
+|-
+|2018 бак||
+'''Иванов Сергей'''
+* Доклад [http://www.slideshare.net/SergeyIvanov105/birthday-effect-67829860/ «'''Проверка гипотезы Birthday Effect'''»]
+* Курсовая работа [[Media:AnomalyDetectionMethods.pdf|«'''Методы Детектирования Аномалий'''»]].
+* Дипломная работа [[Media:2018_417_IvanovSM.pdf|«'''Нейросетевая генерация музыки'''»]]
 |-
 |2017 бак||
@@ Строка 195: / Строка 103: @@
 * Преддипломная практика «Поиск информативных признаковых описаний исполняемых файлов и подходящих методов машинного обучения для детектирования вредоносных объектов».
 * Доклад [[Media:ALSH_for_MIPS.pdf|«'''Asymmetric LSH for Sublinear Time Maximum Inner Product Search'''»]].
+* ВКР [https://drive.google.com/file/d/0B82NsCJgJ5GdN2xoWGJfbjlKWW8/view?usp=sharing «'''Снижение размерности больших массивов данных'''»].
 '''Каюмов Эмиль'''
 * [[Media:About_articles_of_jure_leskovec_14.10.2015.pdf|'''Доклад о работах Jure Leskovec из Стэнфордского университета''']].
@@ Строка 200: / Строка 109: @@
 * Курсовая работа [[Media:Kayumov_course_work_imputer_methods.pdf‎|«'''Методы восстановления пропусков в данных'''»]].
 * Преддипломная практика «Разработка модуля кластеризации запросов и ответов веб-ресурса для выявления бизнес-логики в составе системы обнаружения атак на веб-приложения».
+* Доклад [[Media:Rnn_and_visualizing_networks_27.10.2016.pdf|«'''Обзор рекуррентных нейронных сетей и статьи Visualizing and Understanding Recurrent Networks'''»]].
+* ВКР [[Media:Kayumov_diploma_mcnn_cardio_feature_extraction.pdf|«'''Автоматическое выделение признаков в сигналах кардиограмм в задаче выявления болезней сердца'''»]]
 '''Севастопольский Артём'''
 * [[Media:Sevastopolsky_-_report_H-P_Kriegel.pdf|'''Доклад о работах Hans-Peter Kriegel из университета Ludwig-Maximilians-Universität''']].
@@ Строка 207: / Строка 118: @@
 * Преддипломная практика «Реализация детектора ключевых точек лица на основе композиции карт глубин и текстуры при помощи глубоких свёрточных нейронных сетей».
 * Доклад [[Media:NN_for_segmentation_and_Keras.pdf|«'''Глубокие нейронные сети для сегментации изображений.''']] [http://nbviewer.jupyter.org/github/seva100/seminar-talks/blob/master/Overview%20of%20Keras%20library%20for%20Python/Keras%20tutorial-precomputed.ipynb '''Программирование нейронных сетей.'''»]
+* ВКР [[Media:Diploma_Sevastopolsky_A.pdf|«'''Методы распознавания глаукомы на основе нейронных сетей'''»]]
 |-
 |2018 маг||
+'''Викулин Всеволод'''
+* Курсовая работа [[Медиа:CourseVikulin.pdf|«'''Автоматическое выделение признаков в задаче классификации сигналов'''»]].
 '''Кудрявцев Георгий'''
 * Курсовая работа [[Media:CourseGeorge.pdf|«'''Методы сравнения траекторий'''»]].
@@ Строка 222: / Строка 136: @@
 * Доклад [[Media:Anastasya_Rysmyatova_analiz.pdf|«'''Анализ чувствительность сверточных нейронных сетей'''»]].
 * Преддипломная практика [[Media:Anastasya_Rysmyatova_preddiplom.pdf|«'''Прикладные задачи анализа данных'''»]].
-* ВКР [[Media:Anastasya_Rysmyatova_diplom.pdf|« '''Использование сверточных нейронных сетей для задачи классификации текстов'''»]].
+* ВКР [[Media:Anastasya_Rysmyatova_diplom.pdf|«'''Использование сверточных нейронных сетей для задачи классификации текстов'''»]].
+* Курсовая работа [[Media:Kursov_517.pdf|«'''Ранжирование текстов литературных произведений'''»]].
 '''Вихрева Мария'''
 * Курсовая работа [[Медиа:CourseVikhreva.pdf|«'''Dependency detection with Bayesian Networks'''»]].
@@ Строка 239: / Строка 154: @@
 * Доклад «'''Методы распознавания сарказма в тексте'''».
 * Курсовая работа [[Media:Course_work_Kibitova.pdf| «'''Методы распознавания сарказма в тексте'''»]].
+* Магистерская диссертация [[Media:MD_GURIANOVA_VN.pdf| «'''Ансамбль алгоритмов для определения ишемической болезни сердца по электрокардиограмме'''»]].
+'''Гурьянов Алексей'''
+* Магистерская диссертация [[Media:Guryanov2017.pdf| «'''Стратегии исследования окружений в обучении с подкреплением с непрерывным пространством состояний'''»]].
 |-
@@ Строка 244: / Строка 163: @@
 '''Трофимов Михаил'''
+* Доклад [https://www.dropbox.com/s/de1lnomry4l9pi4/qml.pdf?dl=0 «'''Квантовое машинное обучение'''»].
 * Дипломная работа [https://vk.com/away.php?utf=1&to=https%3A%2F%2Fsourceforge.net%2Fp%2Fmlalgorithms%2Fcode%2FHEAD%2Ftree%2FGroup074%2FTrofimov2016MSThesis%2Fdiploma.pdf%3Fformat%3Draw «'''Обобщённые факторизационные машины'''»].
 * Доклад [https://www.dropbox.com/s/90xm8784bswf875/llr-fm-slides.pdf?dl=0 «'''Локально низкоранговая факторизационная машина'''»].
@@ Строка 254: / Строка 174: @@
 * Ivan Guz, Vasily Leksin, Mikhail Trofimov, Aleksandra Fenster, «'''Evolution of Content Moderation Approaches for Online Classifieds: From Action Recommendations to Automation'''» // ICML'15 Workshop on Crowdsourcing and Machine Learning
 * Mansour Ahmadi, Giorgio Giacinto, Dmitry Ulyanov, Stanislav Semenov, Mikhail Trofimov, [http://arxiv.org/abs/1511.04317 «'''Novel feature extraction, selection and fusion for effective malware family classification'''»], ACM Conference on Data and Applications Security and Privacy (CODASPY 2016)
+* Новиков, Трофимов, Оселедец, [http://openreview.net/pdf?id=rkYmiD9lg «'''Exponential Machines'''»]