Алгебра над алгоритмами и эвристический поиск закономерностей
Материал из MachineLearning.
(→Заседания 2016—2017 уч. года) |
(→Заседания 2019—2020 уч. года) |
||
(57 промежуточных версий не показаны.) | |||
Строка 3: | Строка 3: | ||
== Направления работы на спецсеминаре == | == Направления работы на спецсеминаре == | ||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
{{TOCright}} | {{TOCright}} | ||
'''В рамках работы на спецсеминаре есть два направления исследования:''' | '''В рамках работы на спецсеминаре есть два направления исследования:''' | ||
# '''Теоретическое.''' Проводится в рамках '''алгебраического подхода''' к решению задач распознавания. Суть подхода: на алгоритмах, которые решают задачи обработки и анализа данных, специальным образом вводятся алгебраические операции. Например, можно складывать алгоритмы (получается опять алгоритм), умножать и т. д. Среди получаемых алгебраических выражений над «естественными» алгоритмами есть высокоэффективные алгоритмы. На спецсеминаре рассматриваются вопросы: как их строить, анализировать, реализовывать на ЭВМ и т. д. и т. п. Здесь же возникают задачи '''современной теории интерполяции''': построения функций специального вида, заданных частично. Можно заниматься '''дискретным направлением''': решать подобные задачи для функций, принимающих значения 0 и 1. Данное направление представляет '''особую ценность студентам, которые хотят получить самостоятельные результаты в науке и продолжить обучение в аспирантуре'''. | # '''Теоретическое.''' Проводится в рамках '''алгебраического подхода''' к решению задач распознавания. Суть подхода: на алгоритмах, которые решают задачи обработки и анализа данных, специальным образом вводятся алгебраические операции. Например, можно складывать алгоритмы (получается опять алгоритм), умножать и т. д. Среди получаемых алгебраических выражений над «естественными» алгоритмами есть высокоэффективные алгоритмы. На спецсеминаре рассматриваются вопросы: как их строить, анализировать, реализовывать на ЭВМ и т. д. и т. п. Здесь же возникают задачи '''современной теории интерполяции''': построения функций специального вида, заданных частично. Можно заниматься '''дискретным направлением''': решать подобные задачи для функций, принимающих значения 0 и 1. Данное направление представляет '''особую ценность студентам, которые хотят получить самостоятельные результаты в науке и продолжить обучение в аспирантуре'''. | ||
# '''Прикладное.''' Решаются реальные прикладные задачи анализа данных (data mining). Например, построение рекомендательных систем, прогнозирование свойств динамических графов (в том числе и графов социальных сетей), прогнозирование поведения потребителей, анализ метаданных, классификация сигналов головного мозга, классификация сигналов-показаний работы механизмов, настройка спам-фильтров, автоматическая рубрикация текстов, прогнозирование финансовых временных рядов. От студентов требуется желание глубоко понять задачу (данные и скрытые в них закономерности), умение быстро осваивать новые методы (в незнакомой области), хорошо программировать, выдвигать гипотезы и фантазировать (последнее очень важно). | # '''Прикладное.''' Решаются реальные прикладные задачи анализа данных (data mining). Например, построение рекомендательных систем, прогнозирование свойств динамических графов (в том числе и графов социальных сетей), прогнозирование поведения потребителей, анализ метаданных, классификация сигналов головного мозга, классификация сигналов-показаний работы механизмов, настройка спам-фильтров, автоматическая рубрикация текстов, прогнозирование финансовых временных рядов. От студентов требуется желание глубоко понять задачу (данные и скрытые в них закономерности), умение быстро осваивать новые методы (в незнакомой области), хорошо программировать, выдвигать гипотезы и фантазировать (последнее очень важно). | ||
+ | |||
+ | {{tip| | ||
+ | См. также [[Алгебра над алгоритмами и эвристический поиск закономерностей/правила для постоянных участников|«Правила для постоянных участников»]]. | ||
+ | }} | ||
== Заседания спецсеминара == | == Заседания спецсеминара == | ||
{{notice| | {{notice| | ||
- | В осеннем семестре заседания будут проходить по | + | В осеннем семестре 2019 года заседания будут проходить по понедельникам, начиная с 16 сентября, раз в две недели (через одну), начало в 18:20, ауд. 508. Вход свободный. |
}} | }} | ||
- | == Заседания | + | == Заседания 2019—2020 уч. года == |
+ | Расписание доступно по [https://docs.google.com/spreadsheets/d/1ltdgH2T6hn959LPdpUfIrLKRzVBCpP7vNNyZnMbzalI/edit?usp=sharing ссылке]. | ||
{| class="wikitable" | {| class="wikitable" | ||
Строка 28: | Строка 27: | ||
! Доклад | ! Доклад | ||
! Материалы | ! Материалы | ||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
- | |||
|- | |- | ||
- | | | + | | 16 сентября 2019 |
- | | '' | + | | ''Иванов Сергей Максимович'' (617) |
- | | ''' | + | | '''Метод обратного распространения ошибки''' |
- | + | ||
- | + | Пытаемся навести порядок в математике, стоящей за концепцией обучения нейросетей. | |
- | + | | [[Media:1._Backprop.pdf|слайды]] | |
- | + | ||
- | | [ | + | |
|- | |- | ||
- | | | + | | 16 сентября 2019 |
- | | '' | + | | ''Иванов Сергей Максимович'' (617) |
- | | ''' | + | | '''Задачи глубинного обучения''' |
- | + | ||
- | + | Рассматриваем, какие задачи можно решать при помощи методов глубинного обучения. | |
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | | | + | |[[Media:2._DL_tasks.pdf|слайды]] |
- | + | ||
- | + | ||
- | | | + | |
|- | |- | ||
- | | | + | | 30 сентября 2019 |
- | | '' | + | | ''Думбай Алексей Дмитриевич'' (617) |
- | | ''' | + | | '''Python. Подходы, приемы, интересные факты.''' |
- | + | ||
- | + | | [[Media:Dumbaj_python.pdf|слайды]] | |
- | + | ||
- | + | ||
- | | [ | + | |
- | + | ||
|- | |- | ||
- | | | + | | 28 октября 2019 |
- | | '' | + | | ''Иванов Сергей Максимович'' (617) |
- | | ''' | + | | '''Трансформер''' |
- | + | ||
- | | | + | | [[Media:Transformer.pdf|слайды]] |
- | + | ||
- | + | ||
- | | | + | |
|- | |- | ||
- | | | + | | 28 октября 2019 |
- | | | + | | |
- | | | + | | |
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
+ | | | ||
|- | |- | ||
- | |||
- | |||
- | |||
- | |||
|} | |} | ||
Строка 125: | Строка 72: | ||
Заседния в предыдущих семестрах: | Заседния в предыдущих семестрах: | ||
+ | * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2018-2019 уч. года]]. | ||
+ | * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2016-2017 уч. года]]. | ||
* [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2015-2016 уч. года]]. | * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2015-2016 уч. года]]. | ||
* [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2014-2015 уч. года]]. | * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2014-2015 уч. года]]. | ||
Строка 134: | Строка 83: | ||
* [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2010-2011 уч. года (весенний семестр)]]. | * [[Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2010-2011 уч. года (весенний семестр)]]. | ||
- | + | == Участники прошлых лет == | |
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | + | ||
- | == Участники | + | |
{| border="1" | {| border="1" | ||
!Год выпуска ||Участники | !Год выпуска ||Участники | ||
+ | |- | ||
+ | |2018 бак|| | ||
+ | |||
+ | '''Иванов Сергей''' | ||
+ | * Доклад [http://www.slideshare.net/SergeyIvanov105/birthday-effect-67829860/ «'''Проверка гипотезы Birthday Effect'''»] | ||
+ | * Курсовая работа [[Media:AnomalyDetectionMethods.pdf|«'''Методы Детектирования Аномалий'''»]]. | ||
+ | * Дипломная работа [[Media:2018_417_IvanovSM.pdf|«'''Нейросетевая генерация музыки'''»]] | ||
|- | |- | ||
|2017 бак|| | |2017 бак|| | ||
Строка 221: | Строка 103: | ||
* Преддипломная практика «Поиск информативных признаковых описаний исполняемых файлов и подходящих методов машинного обучения для детектирования вредоносных объектов». | * Преддипломная практика «Поиск информативных признаковых описаний исполняемых файлов и подходящих методов машинного обучения для детектирования вредоносных объектов». | ||
* Доклад [[Media:ALSH_for_MIPS.pdf|«'''Asymmetric LSH for Sublinear Time Maximum Inner Product Search'''»]]. | * Доклад [[Media:ALSH_for_MIPS.pdf|«'''Asymmetric LSH for Sublinear Time Maximum Inner Product Search'''»]]. | ||
+ | * ВКР [https://drive.google.com/file/d/0B82NsCJgJ5GdN2xoWGJfbjlKWW8/view?usp=sharing «'''Снижение размерности больших массивов данных'''»]. | ||
'''Каюмов Эмиль''' | '''Каюмов Эмиль''' | ||
* [[Media:About_articles_of_jure_leskovec_14.10.2015.pdf|'''Доклад о работах Jure Leskovec из Стэнфордского университета''']]. | * [[Media:About_articles_of_jure_leskovec_14.10.2015.pdf|'''Доклад о работах Jure Leskovec из Стэнфордского университета''']]. | ||
Строка 227: | Строка 110: | ||
* Преддипломная практика «Разработка модуля кластеризации запросов и ответов веб-ресурса для выявления бизнес-логики в составе системы обнаружения атак на веб-приложения». | * Преддипломная практика «Разработка модуля кластеризации запросов и ответов веб-ресурса для выявления бизнес-логики в составе системы обнаружения атак на веб-приложения». | ||
* Доклад [[Media:Rnn_and_visualizing_networks_27.10.2016.pdf|«'''Обзор рекуррентных нейронных сетей и статьи Visualizing and Understanding Recurrent Networks'''»]]. | * Доклад [[Media:Rnn_and_visualizing_networks_27.10.2016.pdf|«'''Обзор рекуррентных нейронных сетей и статьи Visualizing and Understanding Recurrent Networks'''»]]. | ||
+ | * ВКР [[Media:Kayumov_diploma_mcnn_cardio_feature_extraction.pdf|«'''Автоматическое выделение признаков в сигналах кардиограмм в задаче выявления болезней сердца'''»]] | ||
'''Севастопольский Артём''' | '''Севастопольский Артём''' | ||
* [[Media:Sevastopolsky_-_report_H-P_Kriegel.pdf|'''Доклад о работах Hans-Peter Kriegel из университета Ludwig-Maximilians-Universität''']]. | * [[Media:Sevastopolsky_-_report_H-P_Kriegel.pdf|'''Доклад о работах Hans-Peter Kriegel из университета Ludwig-Maximilians-Universität''']]. | ||
Строка 234: | Строка 118: | ||
* Преддипломная практика «Реализация детектора ключевых точек лица на основе композиции карт глубин и текстуры при помощи глубоких свёрточных нейронных сетей». | * Преддипломная практика «Реализация детектора ключевых точек лица на основе композиции карт глубин и текстуры при помощи глубоких свёрточных нейронных сетей». | ||
* Доклад [[Media:NN_for_segmentation_and_Keras.pdf|«'''Глубокие нейронные сети для сегментации изображений.''']] [http://nbviewer.jupyter.org/github/seva100/seminar-talks/blob/master/Overview%20of%20Keras%20library%20for%20Python/Keras%20tutorial-precomputed.ipynb '''Программирование нейронных сетей.'''»] | * Доклад [[Media:NN_for_segmentation_and_Keras.pdf|«'''Глубокие нейронные сети для сегментации изображений.''']] [http://nbviewer.jupyter.org/github/seva100/seminar-talks/blob/master/Overview%20of%20Keras%20library%20for%20Python/Keras%20tutorial-precomputed.ipynb '''Программирование нейронных сетей.'''»] | ||
+ | * ВКР [[Media:Diploma_Sevastopolsky_A.pdf|«'''Методы распознавания глаукомы на основе нейронных сетей'''»]] | ||
|- | |- | ||
|2018 маг|| | |2018 маг|| | ||
+ | '''Викулин Всеволод''' | ||
+ | * Курсовая работа [[Медиа:CourseVikulin.pdf|«'''Автоматическое выделение признаков в задаче классификации сигналов'''»]]. | ||
'''Кудрявцев Георгий''' | '''Кудрявцев Георгий''' | ||
* Курсовая работа [[Media:CourseGeorge.pdf|«'''Методы сравнения траекторий'''»]]. | * Курсовая работа [[Media:CourseGeorge.pdf|«'''Методы сравнения траекторий'''»]]. | ||
Строка 249: | Строка 136: | ||
* Доклад [[Media:Anastasya_Rysmyatova_analiz.pdf|«'''Анализ чувствительность сверточных нейронных сетей'''»]]. | * Доклад [[Media:Anastasya_Rysmyatova_analiz.pdf|«'''Анализ чувствительность сверточных нейронных сетей'''»]]. | ||
* Преддипломная практика [[Media:Anastasya_Rysmyatova_preddiplom.pdf|«'''Прикладные задачи анализа данных'''»]]. | * Преддипломная практика [[Media:Anastasya_Rysmyatova_preddiplom.pdf|«'''Прикладные задачи анализа данных'''»]]. | ||
- | * ВКР [[Media:Anastasya_Rysmyatova_diplom.pdf|« '''Использование сверточных нейронных сетей для задачи классификации текстов'''»]]. | + | * ВКР [[Media:Anastasya_Rysmyatova_diplom.pdf|«'''Использование сверточных нейронных сетей для задачи классификации текстов'''»]]. |
+ | * Курсовая работа [[Media:Kursov_517.pdf|«'''Ранжирование текстов литературных произведений'''»]]. | ||
'''Вихрева Мария''' | '''Вихрева Мария''' | ||
* Курсовая работа [[Медиа:CourseVikhreva.pdf|«'''Dependency detection with Bayesian Networks'''»]]. | * Курсовая работа [[Медиа:CourseVikhreva.pdf|«'''Dependency detection with Bayesian Networks'''»]]. | ||
Строка 266: | Строка 154: | ||
* Доклад «'''Методы распознавания сарказма в тексте'''». | * Доклад «'''Методы распознавания сарказма в тексте'''». | ||
* Курсовая работа [[Media:Course_work_Kibitova.pdf| «'''Методы распознавания сарказма в тексте'''»]]. | * Курсовая работа [[Media:Course_work_Kibitova.pdf| «'''Методы распознавания сарказма в тексте'''»]]. | ||
+ | * Магистерская диссертация [[Media:MD_GURIANOVA_VN.pdf| «'''Ансамбль алгоритмов для определения ишемической болезни сердца по электрокардиограмме'''»]]. | ||
+ | |||
+ | '''Гурьянов Алексей''' | ||
+ | * Магистерская диссертация [[Media:Guryanov2017.pdf| «'''Стратегии исследования окружений в обучении с подкреплением с непрерывным пространством состояний'''»]]. | ||
|- | |- |
Текущая версия
Руководитель спецсеминара: д.ф.-м.н., профессор Дьяконов Александр Геннадьевич
Направления работы на спецсеминаре
|
В рамках работы на спецсеминаре есть два направления исследования:
- Теоретическое. Проводится в рамках алгебраического подхода к решению задач распознавания. Суть подхода: на алгоритмах, которые решают задачи обработки и анализа данных, специальным образом вводятся алгебраические операции. Например, можно складывать алгоритмы (получается опять алгоритм), умножать и т. д. Среди получаемых алгебраических выражений над «естественными» алгоритмами есть высокоэффективные алгоритмы. На спецсеминаре рассматриваются вопросы: как их строить, анализировать, реализовывать на ЭВМ и т. д. и т. п. Здесь же возникают задачи современной теории интерполяции: построения функций специального вида, заданных частично. Можно заниматься дискретным направлением: решать подобные задачи для функций, принимающих значения 0 и 1. Данное направление представляет особую ценность студентам, которые хотят получить самостоятельные результаты в науке и продолжить обучение в аспирантуре.
- Прикладное. Решаются реальные прикладные задачи анализа данных (data mining). Например, построение рекомендательных систем, прогнозирование свойств динамических графов (в том числе и графов социальных сетей), прогнозирование поведения потребителей, анализ метаданных, классификация сигналов головного мозга, классификация сигналов-показаний работы механизмов, настройка спам-фильтров, автоматическая рубрикация текстов, прогнозирование финансовых временных рядов. От студентов требуется желание глубоко понять задачу (данные и скрытые в них закономерности), умение быстро осваивать новые методы (в незнакомой области), хорошо программировать, выдвигать гипотезы и фантазировать (последнее очень важно).
См. также «Правила для постоянных участников». |
Заседания спецсеминара
В осеннем семестре 2019 года заседания будут проходить по понедельникам, начиная с 16 сентября, раз в две недели (через одну), начало в 18:20, ауд. 508. Вход свободный. |
Заседания 2019—2020 уч. года
Расписание доступно по ссылке.
Дата | Докладчик | Доклад | Материалы |
---|---|---|---|
16 сентября 2019 | Иванов Сергей Максимович (617) | Метод обратного распространения ошибки
Пытаемся навести порядок в математике, стоящей за концепцией обучения нейросетей. | слайды |
16 сентября 2019 | Иванов Сергей Максимович (617) | Задачи глубинного обучения
Рассматриваем, какие задачи можно решать при помощи методов глубинного обучения. | слайды |
30 сентября 2019 | Думбай Алексей Дмитриевич (617) | Python. Подходы, приемы, интересные факты. | слайды |
28 октября 2019 | Иванов Сергей Максимович (617) | Трансформер | слайды |
28 октября 2019 |
Заседния в предыдущих семестрах:
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2018-2019 уч. года.
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2016-2017 уч. года.
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2015-2016 уч. года.
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2014-2015 уч. года.
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2013—2014 уч. года (осенний семестр).
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2012-2013 уч. года (весенний семестр).
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2012-2013 уч. года (осенний семестр).
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2011-2012 уч. года (весенний семестр).
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2011-2012 уч. года (осенний семестр).
- Алгебра над алгоритмами и эвристический поиск закономерностей/Заседания 2010-2011 уч. года (весенний семестр).
Участники прошлых лет
Год выпуска | Участники |
---|---|
2018 бак |
Иванов Сергей
|
2017 бак |
Никишин Евгений
Каюмов Эмиль
Севастопольский Артём
|
2018 маг |
Викулин Всеволод
Кудрявцев Георгий
Рысьмятова Анастасия
Вихрева Мария
|
2017 маг |
Кибитова Валерия
Гурьянов Алексей
|
аспиранты 1 г.о. |
Трофимов Михаил
|
аспиранты 3 г.о. |
|
Выпускники спецсеминара
Год выпуска | Выпускники |
---|---|
Аспирант, 2010 |
Карпович Павел
Диссертация: «K-сингулярные системы точек в алгебраическом подходе к распознаванию образов» (2010, успешно защищена 18.02.2011 по специальности 01.01.09). |
2015 бак |
Славнов Константин
|
2015 |
Харациди Олег
|
2014 |
|
2013 |
Бобрик Ксения
Ермушева Александра
Кириллов Александр
Кондрашкин Дмитрий (перевёлся на другой спецсеминар)
|
2012 |
|
2010 |
Ахламченкова Ольга
Токарева (Одинокова) Евгения
|
2009 |
Власова Юлия
Логинов Вячеслав
Фёдорова Валентина
Чучвара Алексндра (бакалавр)
|
2008 |
Ломова Дарья
Вершкова Ирина
|
2007 |
Кнорре Анна
Карпович Павел
Сиваченко Евгений
|
2006 |
Ховратович (Курятникова) Татьяна
Мошин Николай
|
2005 |
Каменева Наталия
Силкин Леонид
|
Некоторые решаемые прикладные задачи
- Прогнозирование временных рядов По характеристикам процесса в прошлом предсказать поведение в будущем. Знание о прошлом может быть неполным или ошибочным. Типичный пример: прогнозирование денежных сумм, которые будут сниматься с банкомата в течение следующей недели.
- Классификация технических сигналов и сигналов головного мозга По описанию изменения некоторой характеристики процесса необходимо определить её класс. Например, по электрокортикограмме определить ментальное состояние человека. При этом обучающая выборка (данные, которые у нас есть) была собрана достаточно давно, а тестирование алгоритма будет проводиться потом (при изменённых внешних условиях, а следовательно, при изменённых характеристиках данных).
- Фильтрация спама Настроить спам-фильтр на некотором универсальном обучающем множестве (данных спам-ловушек) так, чтобы он хорошо работал на компьютере конкретного пользователя (без дополнительной донастройки).
- Иерархическая классификация текстов Написать алгоритм автоматической категоризации документов. Например, новостные рассылки необходимо распределить по каталогам «спорт/футбол», «спорт/биатлон», «музыка/концерты», «музыка/рок/исполнители» и т. д.
- Ранжирование документов на основе обучающего множества Написать алгоритм, который оценивает релевантность документа поисковому запросу. Для фиксированного запроса упорядочить документы (используя их признаковые описания) так, чтобы порядок отражал «адекватность» запроса.
- Прогноз связности графа социальной сети Предсказать изменения динамического графа социальной сети, в частности, появление новых рёбер.
- Прогнозирование успешности грантов и проектов По описанию заявки оценить перспективность выполнения данного проекта.
- Разработка рекомендательного алгоритма, который делает актуальные предложения купить какой-то товар, воспользоваться услугой или прочитать материал.
- Предсказывание визитов покупателей и сумм покупок для сети супермаркетов Разработка алгоритма, который предсказывает дату первого визита и сумму покупки каждого клиента.
- Оценка фотографий по метаданным Прогноз «интересности» фото-материалов на основе анализа названия, описания, GPS-координат съёмки и т.п.
- Задача кредитного скоринга Прогнозирование надёжности клиента банка по обязательствам выплаты процентов кредита.