Статистический кластерный анализ (регулярный семинар)

Материал из MachineLearning.

Версия 07:51, 17 февраля 2016

Описание семинара

Задача кластеризации известна всем, кто имел дело с машинным обучением, и имеет бесчисленное множество практических применений. Кроме того, известно, что задача кластеризации может быть сформулирована разными способами, то есть не имеет чёткой общепринятой постановки. В рамках данного семинара изучаются статистические подходы к задаче кластеризации. Отдельное внимание в работе уделяется кластеризации графов. Целью работы группы является построение алгоритмов кластеризации и кластеризации графов, которые обладают практической эффективностью, и при это допускают теоретический анализ.

Время заседаний

Регулярный семинар, проводится в ИППИ РАН по средам в 18-30, ауд. 615.

Научные руководители семинара

М.Е. Панов, С. Довгаль, В. Г. Спокойный

Организатор семинара

Совместный учебно-научный семинар магистерской программы Математические методы оптимизации и стохастики Факультета Компьютерных наук НИУ ВШЭ, Института проблем передачи информации РАН и Лаборатории ПреМоЛаб МФТИ. Куратор семинара М.Е. Панов

Заседания

13 октября 2015 г.

Игорь Силин "Минимаксное оценивание в Stochastic Block Models"

В докладе будет рассмотрена популярная вероятностная модель Stochastic Block Model, используемая для доказательств свойств алгоритмов community detection. Будет получена минимаксная оценка риска для квадратичной функции потерь. Для этого сначала будет предъявлен метод, достигающий необходимой скорости сходимости, а затем будет доказано, что его нельзя улучшить. Для доказательства нижней оценки используется классический инструмент - неравенство Фано.

28 октября 2015 г.

1. Игорь Силин — продолжение рассказа

2. Обсуждение тем курсовых работы для студентов программы ММОС.

11 ноября 2015 г.

Константин Славнов "Методы выделения сообществ в применении к анализу социальных сетей"

Обзорный доклад, который посвящен теме социальных графов и обзору способов выделения сообществ на основе функционала модулярности. Будут рассмотрены некоторые свойства модулярности, 7 алгоритмов выделения структуры сообществ (Betweenness, Fastgreedy, Multilevel, LabelPropogation, Walktrap, Infomap, Eigenvector), а также рассказаны собственные результаты по способам композиции различных методов выделения сообществ.

Презентация, Текст работы «Анализ социальных графов»

18 ноября 2015 г.

Сергей Довгаль "Кластеризация с адаптивными весами"

На докладе мы расскажем об алгоритме AWC (Adaptive Weights Clustering). Мы посмотрим, какие геометрические подзадачи возникают при задаче кластеризации и опишем основные свойства этого алгоритма. Алгоритм исследуется для метрической кластеризации, но его можно применять для произвольных графов, на которых задана матрица расстояний.

2 декабря 2015 г.

Максим Панов "Введение в спектральные методы кластеризации" (Презентация)

В рамках доклада мы расскажем об алгоритме спектральной кластеризации (Spectral clustering). Данный алгоритм прост в реализации и часто превосходит другие традиционные алгоритмы кластеризации. Цель доклада состоит в том, чтобы дать аудитории интуитивное понимание математических идей, лежащих в основе алгоритма. Будут рассмотрены различные виды лапласианов графа и их основные свойства, а также представлены наиболее популярные варианты алгоритма спектральной кластеризации.

9 декабря 2015 г.

Лада Токмакова "Стабильность кластеризации: обзор"

(Презентация)

Современные методы определения количества кластеров выбирают такое оптимальное число разбиений, при котором кластеризация является наиболее стабильной. В ходе доклада будет определен термин стабильности кластеризации, также будет рассказано о некоторых теоретических достижениях для алгоритмов K-means: the idealized K-means algorithm (когда целевая функция сходится к глобальному минимуму) и the actual K-means algorithm (когда целевая функция сходится к локальному минимуму).

Антон Вотинов "Графы ближайших соседей: алгоритмы оценки размерности и плотности"

(Презентация)

Графы ближайших соседей часто встречаются в различных приложениях. Несмотря на то, что в таких графах содержится только информация об относительно расположении точек, существует возможность заглянуть глубже. В ходе доклада будут рассмотрены два алгоритма: алгоритм оценки размерности исходного пространства, из которого граф был порождён; оценка распределения наблюдений, на основе которых был построен граф.

18 февраля 2016 г.

Константин Славнов "Выделение пересекающихся сообществ. Метод BigClam, его связь с AGM-моделью и NMF"

В докладе пойдет речь про современный эффективный метод выделения пересекающихся сообществ на графах BigClam (Cluster Affiliation Model for Big Networks). Его связь с дискретной моделью AGM (Community-Affiliation Graph Model). Будет затронута тема неотрицательного матричного разложения (NMF) и показано как задача выделения пересекающихся сообществ может быть рассмотрена как вариант NMF-задачи.

Литература

Кластеризация на графах

1. Stochastic block models and graphon estimation

[1] Chao Gao, Yu Lu, Harrison H. Zhou "Rate-optimal Graphon Estimation"

[2] Olga Klopp, Alexandre B. Tsybakov, Nicolas Verzelen "Oracle inequalities for network models and sparse graphon estimation"

2. Кластеризация графов на основе модулярности

[3] Santo Fortunato "Community detection in graphs"

[4] Twan van Laarhoven, Elena Marchiori "Axioms for graph clustering quality functions"

[5] Yunpeng Zhao, Elizaveta Levina, Ji Zhu "Consistency of community detection in networks under degree-corrected stochastic block models"

3. Графы ближайших соседей и их кластеризация

[6] Ulrike von Luxburg, Morteza Alamgir "Density estimation from unweighted k-nearest neighbor graphs: a roadmap"

[7] Matthaus Kleindessner, Ulrike von "Luxburg Dimensionality estimation without distances"

4. Обнаружение пересекающихся сообществ в больших сетях: алгоритм BigCLAM и его обобщения

[8] Jaewon Yang, Jure Leskovec "Overlapping Community Detection at Scale: A Nonnegative Matrix Factorization Approach"

5. Spectral clustering

[9] Ulrike von Luxburg "A Tutorial on Spectral Clustering"

[10] Donghui Yan, Ling Huang, Michael I. Jordan "Fast Approximate Spectral Clustering"

Метрическая кластеризация

1. Задача одномерной оценки плотности

[11] Alexandre B. Tsybakov "Introduction to Nonparametric Estimation"

[12] Luc Devroye "A note on the usefulness of superkernels in density estimation"

2. Задача одномерной кластеризации

[13] Kristian Sabo, Rudolf Scitovski, Ivan Vazler "One-dimensional center-based l_1-clustering method"

[14] Andrew Ng "The EM algorithm"

3. Задача многомерной кластеризации и оценки плотности

[15] Alessandro Rinaldo and Larry Wasserman "Generalized Density Clustering

[16] Ingo Steinwart "Fully adaptive density-based clustering"

[17] Alexandre B. Tsybakov "Introduction to Nonparametric Estimation"

4. Стабильность кластеризации

[18] Ulrike von Luxburg "Clustering Stability: An Overview"