Алгебра над алгоритмами и эвристический поиск закономерностей
Материал из MachineLearning.
(→Участники спецсеминара) |
(→Заседания 2019—2020 уч. года) |
||
(43 промежуточные версии не показаны) | |||
Строка 3: | Строка 3: | ||
== Направления работы на спецсеминаре == | == Направления работы на спецсеминаре == | ||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
{{TOCright}} | {{TOCright}} | ||
'''В рамках работы на спецсеминаре есть два направления исследования:''' | '''В рамках работы на спецсеминаре есть два направления исследования:''' | ||
# '''Теоретическое.''' Проводится в рамках '''алгебраического подхода''' к решению задач распознавания. Суть подхода: на алгоритмах, которые решают задачи обработки и анализа данных, специальным образом вводятся алгебраические операции. Например, можно складывать алгоритмы (получается опять алгоритм), умножать и т. д. Среди получаемых алгебраических выражений над «естественными» алгоритмами есть высокоэффективные алгоритмы. На спецсеминаре рассматриваются вопросы: как их строить, анализировать, реализовывать на ЭВМ и т. д. и т. п. Здесь же возникают задачи '''современной теории интерполяции''': построения функций специального вида, заданных частично. Можно заниматься '''дискретным направлением''': решать подобные задачи для функций, принимающих значения 0 и 1. Данное направление представляет '''особую ценность студентам, которые хотят получить самостоятельные результаты в науке и продолжить обучение в аспирантуре'''. | # '''Теоретическое.''' Проводится в рамках '''алгебраического подхода''' к решению задач распознавания. Суть подхода: на алгоритмах, которые решают задачи обработки и анализа данных, специальным образом вводятся алгебраические операции. Например, можно складывать алгоритмы (получается опять алгоритм), умножать и т. д. Среди получаемых алгебраических выражений над «естественными» алгоритмами есть высокоэффективные алгоритмы. На спецсеминаре рассматриваются вопросы: как их строить, анализировать, реализовывать на ЭВМ и т. д. и т. п. Здесь же возникают задачи '''современной теории интерполяции''': построения функций специального вида, заданных частично. Можно заниматься '''дискретным направлением''': решать подобные задачи для функций, принимающих значения 0 и 1. Данное направление представляет '''особую ценность студентам, которые хотят получить самостоятельные результаты в науке и продолжить обучение в аспирантуре'''. | ||
# '''Прикладное.''' Решаются реальные прикладные задачи анализа данных (data mining). Например, построение рекомендательных систем, прогнозирование свойств динамических графов (в том числе и графов социальных сетей), прогнозирование поведения потребителей, анализ метаданных, классификация сигналов головного мозга, классификация сигналов-показаний работы механизмов, настройка спам-фильтров, автоматическая рубрикация текстов, прогнозирование финансовых временных рядов. От студентов требуется желание глубоко понять задачу (данные и скрытые в них закономерности), умение быстро осваивать новые методы (в незнакомой области), хорошо программировать, выдвигать гипотезы и фантазировать (последнее очень важно). | # '''Прикладное.''' Решаются реальные прикладные задачи анализа данных (data mining). Например, построение рекомендательных систем, прогнозирование свойств динамических графов (в том числе и графов социальных сетей), прогнозирование поведения потребителей, анализ метаданных, классификация сигналов головного мозга, классификация сигналов-показаний работы механизмов, настройка спам-фильтров, автоматическая рубрикация текстов, прогнозирование финансовых временных рядов. От студентов требуется желание глубоко понять задачу (данные и скрытые в них закономерности), умение быстро осваивать новые методы (в незнакомой области), хорошо программировать, выдвигать гипотезы и фантазировать (последнее очень важно). | ||
+ | |||
+ | {{tip| | ||
+ | См. также [[Алгебра над алгоритмами и эвристический поиск закономерностей/правила для постоянных участников|«Правила для постоянных участников»]]. | ||
+ | }} | ||
== Заседания спецсеминара == | == Заседания спецсеминара == | ||
{{notice| | {{notice| | ||
- | В осеннем семестре заседания будут проходить по | + | В осеннем семестре 2019 года заседания будут проходить по понедельникам, начиная с 16 сентября, раз в две недели (через одну), начало в 18:20, ауд. 508. Вход свободный. |
}} | }} | ||
- | == Заседания | + | == Заседания 2019—2020 уч. года == |
+ | Расписание доступно по [https://docs.google.com/spreadsheets/d/1ltdgH2T6hn959LPdpUfIrLKRzVBCpP7vNNyZnMbzalI/edit?usp=sharing ссылке]. | ||
{| class="wikitable" | {| class="wikitable" | ||
Строка 28: | Строка 27: | ||
! Доклад | ! Доклад | ||
! Материалы | ! Материалы | ||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
|- | |- | ||
- | | | + | | 16 сентября 2019 |
- | | '' | + | | ''Иванов Сергей Максимович'' (617) |
- | | ''' | + | | '''Метод обратного распространения ошибки''' |
- | + | ||
- | + | Пытаемся навести порядок в математике, стоящей за концепцией обучения нейросетей. | |
- | + | | [[Media:1._Backprop.pdf|слайды]] | |
- | + | ||
- | | [ | + | |
|- | |- | ||
- | | | + | | 16 сентября 2019 |
- | | '' | + | | ''Иванов Сергей Максимович'' (617) |
- | | ''' | + | | '''Задачи глубинного обучения''' |
- | + | ||
- | + | Рассматриваем, какие задачи можно решать при помощи методов глубинного обучения. | |
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | | | + | |[[Media:2._DL_tasks.pdf|слайды]] |
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | | | + | |
- | + | ||
|- | |- | ||
- | | '' | + | | 30 сентября 2019 |
- | | ''' | + | | ''Думбай Алексей Дмитриевич'' (617) |
- | + | | '''Python. Подходы, приемы, интересные факты.''' | |
+ | | [[Media:Dumbaj_python.pdf|слайды]] | ||
|- | |- | ||
- | | | + | | 28 октября 2019 |
- | | '' | + | | ''Иванов Сергей Максимович'' (617) |
- | | ''' | + | | '''Трансформер''' |
- | + | ||
- | | | + | | [[Media:Transformer.pdf|слайды]] |
- | + | ||
- | + | ||
- | | | + | |
|- | |- | ||
- | | | + | | 28 октября 2019 |
- | + | | | |
- | | | + | | |
- | | | + | |
+ | | | ||
|- | |- | ||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
|} | |} | ||
Строка 123: | Строка 72: | ||
Заседния в предыдущих семестрах: | Заседния в предыдущих семестрах: | ||
+ | * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2018-2019 уч. года]]. | ||
+ | * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2016-2017 уч. года]]. | ||
* [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2015-2016 уч. года]]. | * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2015-2016 уч. года]]. | ||
* [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2014-2015 уч. года]]. | * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2014-2015 уч. года]]. | ||
Строка 132: | Строка 83: | ||
* [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2010-2011 уч. года (весенний семестр)]]. | * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2010-2011 уч. года (весенний семестр)]]. | ||
- | + | == Участники прошлых лет == | |
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | == Участники | + | |
{| border="1" | {| border="1" | ||
Строка 220: | Строка 93: | ||
* Доклад [http://www.slideshare.net/SergeyIvanov105/birthday-effect-67829860/ «'''Проверка гипотезы Birthday Effect'''»] | * Доклад [http://www.slideshare.net/SergeyIvanov105/birthday-effect-67829860/ «'''Проверка гипотезы Birthday Effect'''»] | ||
* Курсовая работа [[Media:AnomalyDetectionMethods.pdf|«'''Методы Детектирования Аномалий'''»]]. | * Курсовая работа [[Media:AnomalyDetectionMethods.pdf|«'''Методы Детектирования Аномалий'''»]]. | ||
+ | * Дипломная работа [[Media:2018_417_IvanovSM.pdf|«'''Нейросетевая генерация музыки'''»]] | ||
|- | |- | ||
|2017 бак|| | |2017 бак|| |
Текущая версия
Руководитель спецсеминара: д.ф.-м.н., профессор Дьяконов Александр Геннадьевич
Направления работы на спецсеминаре
|
В рамках работы на спецсеминаре есть два направления исследования:
- Теоретическое. Проводится в рамках алгебраического подхода к решению задач распознавания. Суть подхода: на алгоритмах, которые решают задачи обработки и анализа данных, специальным образом вводятся алгебраические операции. Например, можно складывать алгоритмы (получается опять алгоритм), умножать и т. д. Среди получаемых алгебраических выражений над «естественными» алгоритмами есть высокоэффективные алгоритмы. На спецсеминаре рассматриваются вопросы: как их строить, анализировать, реализовывать на ЭВМ и т. д. и т. п. Здесь же возникают задачи современной теории интерполяции: построения функций специального вида, заданных частично. Можно заниматься дискретным направлением: решать подобные задачи для функций, принимающих значения 0 и 1. Данное направление представляет особую ценность студентам, которые хотят получить самостоятельные результаты в науке и продолжить обучение в аспирантуре.
- Прикладное. Решаются реальные прикладные задачи анализа данных (data mining). Например, построение рекомендательных систем, прогнозирование свойств динамических графов (в том числе и графов социальных сетей), прогнозирование поведения потребителей, анализ метаданных, классификация сигналов головного мозга, классификация сигналов-показаний работы механизмов, настройка спам-фильтров, автоматическая рубрикация текстов, прогнозирование финансовых временных рядов. От студентов требуется желание глубоко понять задачу (данные и скрытые в них закономерности), умение быстро осваивать новые методы (в незнакомой области), хорошо программировать, выдвигать гипотезы и фантазировать (последнее очень важно).
См. также «Правила для постоянных участников». |
Заседания спецсеминара
В осеннем семестре 2019 года заседания будут проходить по понедельникам, начиная с 16 сентября, раз в две недели (через одну), начало в 18:20, ауд. 508. Вход свободный. |
Заседания 2019—2020 уч. года
Расписание доступно по ссылке.
Дата | Докладчик | Доклад | Материалы |
---|---|---|---|
16 сентября 2019 | Иванов Сергей Максимович (617) | Метод обратного распространения ошибки
Пытаемся навести порядок в математике, стоящей за концепцией обучения нейросетей. | слайды |
16 сентября 2019 | Иванов Сергей Максимович (617) | Задачи глубинного обучения
Рассматриваем, какие задачи можно решать при помощи методов глубинного обучения. | слайды |
30 сентября 2019 | Думбай Алексей Дмитриевич (617) | Python. Подходы, приемы, интересные факты. | слайды |
28 октября 2019 | Иванов Сергей Максимович (617) | Трансформер | слайды |
28 октября 2019 |
Заседния в предыдущих семестрах:
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2018-2019 уч. года.
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2016-2017 уч. года.
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2015-2016 уч. года.
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2014-2015 уч. года.
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2013—2014 уч. года (осенний семестр).
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2012-2013 уч. года (весенний семестр).
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2012-2013 уч. года (осенний семестр).
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2011-2012 уч. года (весенний семестр).
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2011-2012 уч. года (осенний семестр).
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2010-2011 уч. года (весенний семестр).
Участники прошлых лет
Год выпуска | Участники |
---|---|
2018 бак |
Иванов Сергей
|
2017 бак |
Никишин Евгений
Каюмов Эмиль
Севастопольский Артём
|
2018 маг |
Викулин Всеволод
Кудрявцев Георгий
Рысьмятова Анастасия
Вихрева Мария
|
2017 маг |
Кибитова Валерия
Гурьянов Алексей
|
аспиранты 1 г.о. |
Трофимов Михаил
|
аспиранты 3 г.о. |
|
Выпускники спецсеминара
Год выпуска | Выпускники |
---|---|
Аспирант, 2010 |
Карпович Павел
Диссертация: «K-сингулярные системы точек в алгебраическом подходе к распознаванию образов» (2010, успешно защищена 18.02.2011 по специальности 01.01.09). |
2015 бак |
Славнов Константин
|
2015 |
Харациди Олег
|
2014 |
|
2013 |
Бобрик Ксения
Ермушева Александра
Кириллов Александр
Кондрашкин Дмитрий (перевёлся на другой спецсеминар)
|
2012 |
|
2010 |
Ахламченкова Ольга
Токарева (Одинокова) Евгения
|
2009 |
Власова Юлия
Логинов Вячеслав
Фёдорова Валентина
Чучвара Алексндра (бакалавр)
|
2008 |
Ломова Дарья
Вершкова Ирина
|
2007 |
Кнорре Анна
Карпович Павел
Сиваченко Евгений
|
2006 |
Ховратович (Курятникова) Татьяна
Мошин Николай
|
2005 |
Каменева Наталия
Силкин Леонид
|
Некоторые решаемые прикладные задачи
- Прогнозирование временных рядов По характеристикам процесса в прошлом предсказать поведение в будущем. Знание о прошлом может быть неполным или ошибочным. Типичный пример: прогнозирование денежных сумм, которые будут сниматься с банкомата в течение следующей недели.
- Классификация технических сигналов и сигналов головного мозга По описанию изменения некоторой характеристики процесса необходимо определить её класс. Например, по электрокортикограмме определить ментальное состояние человека. При этом обучающая выборка (данные, которые у нас есть) была собрана достаточно давно, а тестирование алгоритма будет проводиться потом (при изменённых внешних условиях, а следовательно, при изменённых характеристиках данных).
- Фильтрация спама Настроить спам-фильтр на некотором универсальном обучающем множестве (данных спам-ловушек) так, чтобы он хорошо работал на компьютере конкретного пользователя (без дополнительной донастройки).
- Иерархическая классификация текстов Написать алгоритм автоматической категоризации документов. Например, новостные рассылки необходимо распределить по каталогам «спорт/футбол», «спорт/биатлон», «музыка/концерты», «музыка/рок/исполнители» и т. д.
- Ранжирование документов на основе обучающего множества Написать алгоритм, который оценивает релевантность документа поисковому запросу. Для фиксированного запроса упорядочить документы (используя их признаковые описания) так, чтобы порядок отражал «адекватность» запроса.
- Прогноз связности графа социальной сети Предсказать изменения динамического графа социальной сети, в частности, появление новых рёбер.
- Прогнозирование успешности грантов и проектов По описанию заявки оценить перспективность выполнения данного проекта.
- Разработка рекомендательного алгоритма, который делает актуальные предложения купить какой-то товар, воспользоваться услугой или прочитать материал.
- Предсказывание визитов покупателей и сумм покупок для сети супермаркетов Разработка алгоритма, который предсказывает дату первого визита и сумму покупки каждого клиента.
- Оценка фотографий по метаданным Прогноз «интересности» фото-материалов на основе анализа названия, описания, GPS-координат съёмки и т.п.
- Задача кредитного скоринга Прогнозирование надёжности клиента банка по обязательствам выплаты процентов кредита.