Численные методы обучения по прецедентам (практика, В.В. Стрижов)/Группа YАД, весна 2016
Материал из MachineLearning.
(Различия между версиями)
(Новая: {{Main|Численные методы обучения по прецедентам (практика, В.В. Стрижов)}} __NOTOC__ == Моя первая научная стат...) |
(→Список проектов) |
||
| Строка 69: | Строка 69: | ||
== Список проектов == | == Список проектов == | ||
| + | 1. Синергия алгоритмов классификации. Данные из репозитория UCI, чтобы можно было сравнивать напрямую с другими работами, в частности работами Вапника. Адуенко | ||
| + | |||
| + | 2. Темпоральная тематическая модель коллекции пресс-релизов. Воронцов | ||
| + | |||
| + | 3. Согласование логических и линейных моделей классификации в информационном анализе электрокардиосигналов. Воронцов, Влада Целых | ||
| + | |||
| + | 4. Тематическая модель классификации для диагностики заболеваний по электрокардиограмме. Воронцов, Светлана Цыганова | ||
| + | |||
| + | 7. Определение положения белков по электронной карте. Грудинин, Катруца | ||
| + | |||
| + | 8. Классификация физической активности: исследование изменения пространства параметров при дообучении и модификации моделей глубокого обучения. Стрижов, Бахтеев | ||
| + | |||
| + | 9. Восстановление первичной структуры белка по геометрии его главной цепи. Грудинин, Карасиков | ||
| + | |||
| + | 11. Бэггинг нейронных сетей в задаче предсказания биологической активности ядерных рецепторов. Стрижов, Попова | ||
| + | |||
| + | 15. Преобразования временных рядов для декодирование движения руки с помощью ECoG сигналов (electrocorticographic signals) у обезьян. Стрижов Задаянчук | ||
| + | <!-- | ||
| + | === Задача 1 === | ||
| + | * '''Данные''': Синергия алгоритмов классификации. Данные из репозитория UCI, чтобы можно было сравнивать напрямую с другими работами, в частности работами Вапника. | ||
| + | * '''Литература''': существуют разные подходы к комбинированию SVM: например, bagging (http://www.ecse.rpiscrews.us/~cvrl/FaceProject/Homepage/Publication/ICPR04_final_cameraready_v4.pdf), также пробуют и boosting (http://www.researchgate.net/profile/Hong-Mo_Je/publication/3974309_Pattern_classification_using_support_vector_machine_ensemble/links/09e415091bdc559051000000.pdf). | ||
| + | * '''Базовой алгоритм''': Описан в постановке задачи | ||
| + | * '''Решение''': модификация базового алгоритма, или просто сам базовый алгоритм. Главное - сравнить с другими методами и сделать выводы, в частности о связи наличия улучшения в качестве и разнообразия множеств опорных объектов, построенных разными SVM ами. | ||
| + | * '''Новизна''': известно (например, из лекций Константина Вячеславовича), что строить короткие композиции из сильных классификаторов (например, SVM) с помощью бустинга не получается (хотя все же пробуют (см. литературу)). Поэтому предлагается вместо линейной комбинации строить нелинейную. Предполагается, что такая композиция может дать прирост качества по сравнению с одиночным SVM. | ||
| + | * '''Консультант''': Александр Адуенко | ||
| + | |||
| + | === Задача 2 === | ||
| + | * '''Название''': Темпоральная тематическая модель коллекции пресс-релизов. | ||
| + | * '''Задача''': Разработка методов анализа тематической структуры большой текстовой коллекции и её динамики во времени. Проблемой является оценка качества построенной структуры. Требуется реализовать критерии устойчивости и полноты темпоральной тематической модели с использованием ручного отбора найденных тем по их интерпретируемости, различности и событийности. | ||
| + | * '''Данные''': Коллекция пресс-релизов внешнеполитических ведомств ряда стран за 10 лет, на английском языке. | ||
| + | * '''Литература''': | ||
| + | *# Дойков Н.В. [[Media:2015_417_DoykovNV.pdf|Адаптивная регуляризация вероятностных тематических моделей]]. ВКР бакалавра, ВМК МГУ. 2015. | ||
| + | * '''Базовой алгоритм''': Классический LDA Д.Блэя c post-hoc анализом времени. | ||
| + | * '''Решение''': Реализация аддитивно регуляризованной тематической модели с помощью библиотеки [[BigARTM]]. Построение серий тематических моделей. Оценивание их интерпретируемости, устойчивости и полноты. | ||
| + | * '''Новизна''': Критерии устойчивости и полноты тематических моделей являются новыми. | ||
| + | * '''Консультант''': Никита Дойков, '''автор задачи''' К.В.Воронцов. | ||
| + | |||
| + | === Задача 3 === | ||
| + | * '''Название''': Согласование логических и линейных моделей классификации в информационном анализе электрокардиосигналов. | ||
| + | * '''Задача''': Имеются логические классификаторы, основанные на выявлении диагностических эталонов для каждого заболевания и построенные экспертом в полуручном режиме. Для этих классификаторов определены оценки активностей заболеваний, которые уже много лет используются в диагностической системе и удовлетворяют пользователей-врачей. Мы строим линейные классификаторы, которые обучаются полностью автоматически и по качеству классификации опережают логические. Однако прямой перенос методики оценивания активности на линейные классификаторы оказался невозможен. Требуется построить линейную модель активности, настроив её на воспроизведение известных оценок активности логического классификатора. | ||
| + | * '''Данные''': Выборка более 10 тысяч электрокардиограмм с диагнозами по 32 заболеваниям. | ||
| + | * '''Литература''': выдадим :) | ||
| + | * '''Базовой алгоритм''': Линейный классификатор. | ||
| + | * '''Решение''': Методы линейной регрессии, линейной классификации, отбора признаков. | ||
| + | * '''Новизна''': Задача согласования двух моделей различной природы может рассматриваться как обучение с привилегированной информацией (learning with privileged information) — перспективное направление, предложенное классиком машинного обучения В.Н.Вапником несколько лет назад. | ||
| + | * '''Консультант''': Влада Целых, '''автор задачи''' К.В.Воронцов. | ||
| + | |||
| + | === Задача 4 === | ||
| + | * '''Название''': Тематическая модель классификации для диагностики заболеваний по электрокардиограмме. | ||
| + | * '''Задача''': [[Технология информационного анализа электрокардиосигналов]] по В.М.Успенскому основана на преобразовании ЭКГ в символьную строку и выделении информативных наборов слов — диагностических эталонов каждого заболевания. Линейный классификатор строит один диагностический эталон для каждого заболевания. В системе скрининговой диагностики «Скринфакс» сейчас используется четыре эталона для каждого заболевания, построенных в полуручном режиме. Требуется полностью автоматизировать процесс построения диагностических эталонов и определять их оптимальное количество для каждого заболевания. Для этого предполагается доработать тематическую модель классификации С.Цыгановой, выполнить новую реализацию под [[BigARTM]], расширить вычислительные эксперименты, улучшить качество классификации. | ||
| + | * '''Данные''': Выборка более 10 тысяч электрокардиограмм с диагнозами по 32 заболеваниям. | ||
| + | * '''Литература''': выдадим :) | ||
| + | * '''Базовой алгоритм''': Модели классификации В.Целых, тематическая модель С.Цыгановой. | ||
| + | * '''Решение''': Тематическая модель, реализованная с помощью библиотеки [[BigARTM]]. | ||
| + | * '''Новизна''': Тематические модели ранее не применялись для классификации дискретизированных биомедицинских сигналов. | ||
| + | * '''Консультант''': Светлана Цыганова, '''автор задачи''' К.В.Воронцов. | ||
| + | |||
| + | === Задача 7 === | ||
| + | * '''Название''': определение положения белков по электронной карте | ||
| + | * '''Задача''': неформально --- есть наборы экспериментально определённых карт расположения белков в комплексах, часть из них известна в высоком разрешении, необходимо восстановить всю карту в высоком разрешении; формально --- есть матрицы и вектора энергий соответствующие каждой карте белкового комплекса, нужно определить какой набор белков минимизирует квадратичную форму, образованую матрицей и вектором. | ||
| + | * '''Данные''': экспериментальные данные с сайта http://www.emdatabank.org/ будуь преобразованы в матрицы в вектора энергий. Понимание биофизической природы не обязательно. | ||
| + | * '''Литература''': статьи по методам решения задач квадратичного программирования и различным релаксациям | ||
| + | * '''Базовой алгоритм''': методы квадратичного программирования с различными релаксациями | ||
| + | * '''Решение''': минимизация суммарной энергии белкового комплекса | ||
| + | * '''Новизна''': применение методов квадратичного программирования и исследование их точности в задачах восстановления электронных карт | ||
| + | * '''Консультант''': Александр Катруца, автор задачи: Сергей Грудинин. | ||
| + | * '''Желательные навыки''': понимание и интерес к методам оптимизации, работа с пакетом CVX | ||
| + | |||
| + | === Задача 8 === | ||
| + | * '''Название''': Классификация физической активности: исследование изменения пространства параметров при дообучении и модификации моделей глубокого обучения | ||
| + | * '''Задача''': Дана модель классификации по выборке временных сегментов, записанных с акселерометра мобильного телефона. Модель представляет собой многослойную нейросеть. Требуется 1) исследовать дисперсию и матрицу ковариаций параметров нейросети при различных расписаниях оптимизации (т.е. при различных подходах к поэтапному обучению). 2) на основе полученной матрицы ковариаций параметров предложить эффективный способ модификации модели глубокого обучении. | ||
| + | * '''Данные''': Выборка WISDM http://www.cis.fordham.edu/wisdm/dataset.php. | ||
| + | * '''Литература''': | ||
| + | **Задаянчук А.И., Попова М.С., Стрижов В.В. Выбор оптимальной модели классификации физической активности по измерениям акселерометра http://strijov.com/papers/Zadayanchuk2015OptimalNN4.pdf | ||
| + | **Попова М. С., Стрижов В.В. Построение сетей глубокого обучения для классификации временных рядов - http://strijov.com/papers/PopovaStrijov2015DeepLearning.pdf | ||
| + | **Бахтеев О.Ю., Попова М.С., Стрижов В.В. Системы и средства глубокого обучения в задачах классификации | ||
| + | **LeCun Y. Optimal Brain Damage - yann.lecun.com/exdb/publis/pdf/lecun-90b.pdf | ||
| + | **Работы по пред-обучению (pre-training) и дообучению (fine-tuning) | ||
| + | * '''Базовой алгоритм''': Базовая модель описана в статье "Построение сетей глубокого обучения для классификации временных рядов". Алгоритм можно реализовать как с помощью библиотеки PyLearn или keras (другие библиотеки и языки программирования также допустимы). | ||
| + | * '''Решение''': Анализ матрицы ковариаций, построение add-del метода на основе полученных данных. | ||
| + | * '''Новизна''': Методика исследования ковариационной матрицы большой размерности, а также полученный алгоритм модификации модели важны и будут использоваться в дальнейшем при анализе моделей глубокого обучения. | ||
| + | * '''Консультант''': Олег Бахтеев | ||
| + | |||
| + | === Задача 9 === | ||
| + | * '''Название''': восстановление первичной структуры белка по геометрии его главной цепи | ||
| + | * '''Задача''': на основе главной цепи белка, то есть по сути его геометрии, надо восстановить первичную структуру белка, то есть какой последовательности аминокислот соотвествует заданная геометрия главной цепи. Предлагается это делать на основе минимизации суммарной энергии белка, выраженной квадратичной формой скорее всего не положительно определённой. | ||
| + | * '''Данные''': на выбор студента: собранные матрицы энергий для различных белков на основе их описаний в формате PDB или сами PDB-файлы; в последнем случае необходимо будет собрать матрицы для дальнейшей работы | ||
| + | * '''Литература''': статьи по методам решения задач квадратичного программирования и различным релаксациям | ||
| + | * '''Базовой алгоритм''': методы квадратичного программирования с различными релаксациями | ||
| + | * '''Решение''': минимизация суммарной энергии белка | ||
| + | * '''Новизна''': применение методов квадратичного программирования и исследование их точности | ||
| + | * '''Консультант''': Михаил Карасиков, автор задачи: Сергей Грудинин. | ||
| + | * '''Желательные навыки''': понимание и интерес к методам оптимизации, работа с пакетом CVX | ||
| + | |||
| + | === Задача 11 === | ||
| + | * '''Название''': Бэггинг нейронных сетей в задаче предсказания биологической активности ядерных рецепторов. | ||
| + | * '''Задача''': В задаче необходимо реализовать бэггинг (bootstrap aggregating) для двухслойной нейронной сети. Такая модель будет являться мультитасковой и предсказывать взаимодействие двух типов молекул: рецепторов и протеинов. Решение этой задачи необходимо для разработки новых лекарств (drug design). | ||
| + | * '''Данные''': описание 8500+ протеинов и метки для 12 рецепторов | ||
| + | * '''Литература''': будет отправлена студенту | ||
| + | * '''Базовой алгоритм''': двухслойная нейронная сеть | ||
| + | * '''Решение''': Композиция базовых классификаторов бэггинг | ||
| + | * '''Новизна''': Такой подход является новаторским в области drug design | ||
| + | * '''Консультант''': Мария Попова | ||
| + | |||
| + | ===Задача 13 === | ||
| + | * '''Название''': Отбор мультикоррелирующих признаков в задаче векторной авторегрессии. | ||
| + | * '''Задача''': Имеется набор временных рядов, содержащих показания различных датчиков, отражающих состояние устройства. Показания датчиков коррелируют между собой. Необходимо отобрать оптимальный набор признаков для решения задачи прогнозирования. | ||
| + | * '''Данные''': Многомерные временные ряды с показаниями различных датчиков серверов (загрузка ЦП, памяти, температура) | ||
| + | * '''Литература''': Ключевые слова: bootstrap aggreagation, метод Белсли, векторная авторегрессия. | ||
| + | **Нейчев Р.Г., Катруца А.М., Стрижов В.В. Выбор оптимального набора признаков из мультикоррелирующего множества в задаче прогнозирования[http://strijov.com/papers/Neychev2015FeatureSelection.pdf] | ||
| + | * '''Базовый алгоритм''': метод Белсли для одномерной авторегрессии (см. статью из списка литературы). | ||
| + | * '''Решение''': Применить метод Белсли для обнаружения коррелирующих признаков. | ||
| + | * '''Новизна''': Метод Белсли применяется для векторной авторегрессии. | ||
| + | * '''Консультант''': Радослав Нейчев | ||
| + | |||
| + | |||
| + | ===Задача 15 === | ||
| + | * '''Название''': Преобразования временных рядов для декодирование движения руки с помощью ECoG сигналов (electrocorticographic signals) у обезьян. | ||
| + | * '''Задача''': Имеется набор временных рядов, записи ECoG сигналов. Необходимо выделить признаки с помощью преобразований временных рядов (например, оконного преобразования Фурье). | ||
| + | * '''Данные''': Многомерные временные ряды с показаниями ECOG и данные о движении обезьян [http://neurotycho.org/food-tracking-task] | ||
| + | * '''Литература''': Ключевые слова: выделение признаков, преобразования временных рядов, ECoG signal processing | ||
| + | **Zenas C. Chao, Yasuo Nagasaka and Naotaka Fujii. Long-term asynchronous decoding of arm motion using electrocorticographic signals in monkeys[http://journal.frontiersin.org/article/10.3389/fneng.2010.00003/full] | ||
| + | * '''Базовый алгоритм''': Вейвлет-преобразование (англ. Wavelet transform) | ||
| + | * '''Решение''': Выделение признаков из ECoG различными методами. | ||
| + | * '''Новизна''': Анализ оптимальности Вейвлет-преобразования в задачах обработки ECoG сигналов | ||
| + | * '''Консультант''': Задаянчук Андрей | ||
| + | |||
| + | |||
| + | === Задача 25 === | ||
| + | * '''Название''': Устойчивость дискретизации электрокардиосигналов относительно частотной фильтрации. | ||
| + | * '''Задача''': [[Технология информационного анализа электрокардиосигналов]] по В.М.Успенскому основана на преобразовании электрокардиограммы в символьную строку (кодограмму) и выделении информативных наборов слов — диагностических эталонов каждого заболевания. Проблема в том, что для дискретизации необходимо достаточно точно определять амплитуду R-пиков. На амплитуду может влиять частотная фильтрация сигнала, которая производится электрокардиографом на аппаратном или программном уровне. Задача заключается в том, чтобы оценить, насколько сильно различные частотные фильтры (например, фильтр 50.4Гц, подавляющий воздействие электрической сети, высокочастотный фильтр) могут влиять на частоты слов в кодограмме и на качество классификации. | ||
| + | * '''Данные''': электрокардиограммы в формате KDM. | ||
| + | * '''Литература''': выдадим :) | ||
| + | * '''Базовой алгоритм''': Линейный классификатор. | ||
| + | * '''Решение''': Прямое и обратное преобразование Фурье, алгоритм детекции R-пиков на электрокардиограмме, алгоритм определения амплитуды R-пиков. | ||
| + | * '''Новизна''': Исследование устойчивости кодограмм по отношению к частотной фильтрации с различными параметрами ранее не проводилось в информационном анализе электрокардиосигналов. | ||
| + | * '''Консультант''': Виктор Сафронов (Научный центр им. В.И.Кулакова) | ||
| + | |||
| + | === Задача 26 === | ||
| + | * '''Название''': Построение отображений с минимальной деформацией для сравнения изображений с эталоном. | ||
| + | * '''Задача''': Применить вариационный метод построения квазиизометрических отображений для решения классической задачи геометрической морфологии и регистрации изображений - построения двумерной или трехмерной деформации для сравнения с эталоном. | ||
| + | * '''Данные''': Изображения в формате bmp. На первом этапе можно задавать простые тела посредством ч/б раскраски декартовой решетки. | ||
| + | * '''Литература''': | ||
| + | *# Michael I. Miller, Alain Trouve, Laurent Younes. ON THE METRICS AND EULER-LAGRANGE EQUATIONS OF COMPUTATIONAL ANATOMY. Annu. Rev. Biomed. Eng. 2002. 4:375–405 | ||
| + | *# Beg MF, Miller MI, Trouve A, Younes L. Computing large deformation metric mappings via geodesics flows of diffeomorphisms. International Journal of Computer Vision. 2005; V.61(2):139-157. | ||
| + | *# Trouve A. An approach of pattern recognition through infinite dimensional group action. Research report LMENS-95-9. 1995. | ||
| + | *# Garanzha VA. Maximum norm optimization of quasi-isometric mappings. Num. Linear Algebra Appl. 2002; V.9(6-7):493--510. | ||
| + | *# Garanzha V.A., Kudryavtseva L.N., Utyzhnikov S.V. Untangling and optimization of spatial meshes // Journal of Computational and Applied Mathematics. -- 2014. -- October. -- V. 269 -- P. 24--41. | ||
| + | * '''Базовой алгоритм''': Использовать вариационный метод построения отображений, который ранее был предложен для построения пространственных отображений с заданным отображением границы [4], [5], в случае, когда задается мера близости функций, описывающих геометрические тела, например, как среднеквадратичная мера близости функций яркости. | ||
| + | * '''Решение''': Для существующего кода, который реализует вариационный метод построения двумерных отображений с минимальным искажением, необходимо дописать модуль, реализующий добавку к функционалу, являющуюся мерой близости геометрических тел. Это включает вычисление самого функционала, его градиента, и поправки к предобусловливателю. | ||
| + | * '''Новизна''': Сравнить полученный метод с методом геодезического потока диффеоморфизмов, предложенного в работах Алэна Труве (см. ссылки [1]-[3]). Оценить качество приближения и быстродействие полученного алгоритма. | ||
| + | * '''Консультант''': Владимир Анатольевич Гаранжа (ВЦ РАН). | ||
| + | |||
| + | === Задача 27 === | ||
| + | * '''Название''': Кросс-язычный тематический поиск научных публикаций. | ||
| + | * '''Задача''': Содание прототипа поискового сервиса, который принимает в качестве запроса текст научной статьи на русском языке и выдаёт в качестве результата поиска тематически близкие статьи на английском языке из коллекции arXiv.org. | ||
| + | * '''Данные''': Коллекция текстов arXiv.org, двуязычная коллекция текстов Википедии. | ||
| + | * '''Литература''': выдадим. | ||
| + | * '''Базовой алгоритм''': Тематическая модель, построенная по объединённой коллекции англоязычного arXiv и двуязычной англо-русской Википедии. | ||
| + | * '''Решение''': Построение регуляризованной тематической модели средствами библиотеки [[BigARTM]]. Применение стандартных средств построения инвертированных индексов. | ||
| + | * '''Новизна''': Такого сервиса в русскоязычном интернете пока нет. | ||
| + | * '''Консультант''': Марина Суворова. | ||
| + | |||
| + | --> | ||
Версия 07:27, 18 февраля 2016
Моя первая научная статья
Участвуют эксперты, индивидуальные консультанты и студенты Кафедры анализа данных ФИВТ МФТИ.
- Описание курса
- Результаты предыдущего курса
- Требования к слушателям
- Короткая ссылка на эту страницу: http://bit.ly/1NgyDXx
Роли
Студент третьего курса очень хочет научиться ставить задачи формально, находить нужную литературу, порождать новые и актуальные идеи и решения задач.
Консультант помогает студенту в пользовании инструментами, отвечает на вопросы по специальности, консультирует выполнение работ, оперативно реагирует на проблемы, проверяет (в среду) результаты, ставит оценки. Предполагается, что консультант сам пишет работу-спутник по этой теме. В конце работы могут быть объединены или выполнены и опубликованы параллельно. По возможности, рекомендуется организовать правки текста студента с целью улучшить стиль изложения таким образом, чтобы студент вносил правки самостоятельно. Возможно, при очной встрече или по скайпу.
Эксперт: поставщик задачи, владелец данных, либо тот, кто гарантирует новизну и актуальность работы.
Результаты
| Автор | Тема научной работы | Ссылка | Консультант | Рецензент | Доклад | Буквы | Сумма | Оценка | Журнал |
|---|---|---|---|---|---|---|---|---|---|
| Гончаров Алексей (пример) | Метрическая классификация временных рядов | code, | Мария Попова | Задаянчук Андрей | BMF | AILSBRCVTDSW | 12 | 10 | ИИП |
Работа и консультации
- Работы сдаются в течение недели.
- Желательна итеративная сдача работ, начинать показ лучше в выходные.
- Дедлайн последней версии работы: среда 6:00am (проверка занимает всю среду).
- В отчет будет добавлен пункт об учете времени, затраченном на выполнение проекта по неделям.
- Каждый этап работ + 1 балл по системе (А--, А-, А, А+, А++). Несделанная работа — A0. Мотивированный перенос работы — знак «A>». Недельное опоздание — знак «-».
Задачи
Шаблон описания научной статьи
- Название: Название, под которым статья подается в журнал.
- Задача: Описание или постановка задачи. Желательна постановка в виде задачи оптимизации (в формате argmin). Также возможна ссылка на классическую постановку задачи.
- Данные: Краткое описание данных, используемых в вычислительном эксперименте, и ссылка на выборку.
- Литература: Список научных работ, дополненный 1) формулировкой решаемой задачи, 2) ссылками на новые результаты, 3) основной информацией об исследуемой проблеме.
- Базовой алгоритм: Ссылка на алгоритм, с которым проводится сравнение или на ближайшую по теме работу.
- Решение: Предлагаемое решение задачи и способы проведения исследования. Способы представления и визуализации данных и проведения анализа ошибок, анализа качества алгоритма.
- Новизна: Обоснование новизны и значимости идей (для редколлегии и рецензентов журнала).
Список проектов
1. Синергия алгоритмов классификации. Данные из репозитория UCI, чтобы можно было сравнивать напрямую с другими работами, в частности работами Вапника. Адуенко
2. Темпоральная тематическая модель коллекции пресс-релизов. Воронцов
3. Согласование логических и линейных моделей классификации в информационном анализе электрокардиосигналов. Воронцов, Влада Целых
4. Тематическая модель классификации для диагностики заболеваний по электрокардиограмме. Воронцов, Светлана Цыганова
7. Определение положения белков по электронной карте. Грудинин, Катруца
8. Классификация физической активности: исследование изменения пространства параметров при дообучении и модификации моделей глубокого обучения. Стрижов, Бахтеев
9. Восстановление первичной структуры белка по геометрии его главной цепи. Грудинин, Карасиков
11. Бэггинг нейронных сетей в задаче предсказания биологической активности ядерных рецепторов. Стрижов, Попова
15. Преобразования временных рядов для декодирование движения руки с помощью ECoG сигналов (electrocorticographic signals) у обезьян. Стрижов Задаянчук
