Вероятностные тематические модели (курс лекций, К.В.Воронцов)

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(обновление, дополнение)
(обновление)
Строка 115: Строка 115:
* Примеры транзакционных данных в рекомендательных системах, социальных и рекламных сетях.
* Примеры транзакционных данных в рекомендательных системах, социальных и рекламных сетях.
* Теорема о необходимом условии максимума регуляризованного правдоподобия для гиперграфовой ARTM.--->
* Теорема о необходимом условии максимума регуляризованного правдоподобия для гиперграфовой ARTM.--->
-
 
-
== Байесовское обучение тематических моделей ==
 
-
Презентация: [[Media:Voron-PTM-Bayes.pdf|(PDF, 1,3 МБ)]] {{важно|— обновление ??.??.2018}}.
 
-
 
-
'''EM-алгоритм.'''
 
-
* Задачи оценивания скрытых параметров вероятностной модели.
 
-
* EM-алгоритм для максимизации неполного правдоподобия. Сходимость в слабом смысле.
 
-
* EM-алгоритм для модели PLSA.
 
-
* EM-алгоритм с регуляризацией.
 
-
'''Методы оценивания параметров в модели LDA.'''
 
-
* Модель LDA. Свойства распределения Дирихле.
 
-
* Максимизация апостериорной вероятности для модели LDA.
 
-
* [[Вариационный байесовский вывод]] для модели LDA.
 
-
* [[Сэмплирование Гиббса]] для модели LDA. Сопряжённые распределения.
 
-
* Оптимизация гиперпараметров распределения Дирихле.
 
-
'''Языки описания вероятностных порождающих моделей.'''
 
-
* Графическая плоская нотация (plate notation). [http://zinkov.com/posts/2013-07-28-stop-using-plates Stop using plate notation].
 
-
* Псевдокод порождающего процесса (genarative story).
 
-
* Постановки оптимизационных задач.
 
-
* Как читать статьи по баейсовским моделям и строить эквивалентные ARTM-модели.
 
-
 
-
'''Дополнительный материал:'''
 
-
* ''Потапенко А. А.'' [[Media:potapenko16BayesTM.pdf|Байесовское обучение тематических моделей]]. 2016.
 
== Тематические модели совстречаемости слов ==
== Тематические модели совстречаемости слов ==
-
Презентация: [[Media:Voron17ptm9.pdf|(PDF, 1,6 МБ)]] {{важно|— обновление 15.04.2017}}.
+
Презентация: [[Media:Voron18ptm-cooc.pdf|(PDF, 1,9 МБ)]] {{важно|— обновление 29.03.2018}}.
'''Мультиграммные модели.'''
'''Мультиграммные модели.'''
Строка 151: Строка 128:
* Критерии тематичности фраз.
* Критерии тематичности фраз.
'''Тематические модели дистрибутивной семантики.'''
'''Тематические модели дистрибутивной семантики.'''
-
* Дистрибутивная гипотеза.
+
* Дистрибутивная гипотеза. Модели CBOW и SGNS в программе word2vec.
* Модель битермов BTM (Biterm Topic Model) для тематизации коллекций коротких текстов.
* Модель битермов BTM (Biterm Topic Model) для тематизации коллекций коротких текстов.
<!--* Модель всплесков BBTM (Bursty Biterm Topic Model). -->
<!--* Модель всплесков BBTM (Bursty Biterm Topic Model). -->
Строка 162: Строка 139:
== Тематическая сегментация и суммаризация ==
== Тематическая сегментация и суммаризация ==
-
Презентация: [[Media:Voron17ptm10.pdf|(PDF,&nbsp;2,0&nbsp;МБ)]] {{важно|— обновление 05.05.2017}}.
+
Презентация: [[Media:Voron18ptm-segm.pdf|(PDF,&nbsp;2,0&nbsp;МБ)]] {{важно|— обновление ??.??.2018}}.
'''Модели связного текста.'''
'''Модели связного текста.'''
Строка 176: Строка 153:
* Тематическая модель предложений для суммаризации.
* Тематическая модель предложений для суммаризации.
* Семейство критериев качества суммаризации ROUGE.
* Семейство критериев качества суммаризации ROUGE.
 +
 +
== Байесовское обучение тематических моделей ==
 +
Презентация: [[Media:Voron-PTM-Bayes.pdf|(PDF,&nbsp;1,3&nbsp;МБ)]] {{важно|— обновление ??.??.2018}}.
 +
 +
'''EM-алгоритм.'''
 +
* Задачи оценивания скрытых параметров вероятностной модели.
 +
* EM-алгоритм для максимизации неполного правдоподобия. Сходимость в слабом смысле.
 +
* EM-алгоритм для модели PLSA.
 +
* EM-алгоритм с регуляризацией.
 +
'''Методы оценивания параметров в модели LDA.'''
 +
* Модель LDA. Свойства распределения Дирихле.
 +
* Максимизация апостериорной вероятности для модели LDA.
 +
* [[Вариационный байесовский вывод]] для модели LDA.
 +
* [[Сэмплирование Гиббса]] для модели LDA. Сопряжённые распределения.
 +
* Оптимизация гиперпараметров распределения Дирихле.
 +
'''Языки описания вероятностных порождающих моделей.'''
 +
* Графическая плоская нотация (plate notation). [http://zinkov.com/posts/2013-07-28-stop-using-plates Stop using plate notation].
 +
* Псевдокод порождающего процесса (genarative story).
 +
* Постановки оптимизационных задач.
 +
* Как читать статьи по баейсовским моделям и строить эквивалентные ARTM-модели.
 +
 +
'''Дополнительный материал:'''
 +
* ''Потапенко А. А.'' [[Media:potapenko16BayesTM.pdf|Байесовское обучение тематических моделей]]. 2016.
 +
 +
<!--Задача автоматического именования тем.-->
<!--Задача автоматического именования тем.-->
<!--'''Позиционный регуляризатор в ARTM.'''
<!--'''Позиционный регуляризатор в ARTM.'''

Версия 19:55, 30 марта 2018

Содержание

Спецкурс читается студентам 2—5 курсов на кафедре «Математические методы прогнозирования» ВМиК МГУ с 2013 года.

В спецкурсе изучается вероятностное тематическое моделирование (topic modeling) коллекций текстовых документов. Тематическое моделирование рассматривается как ключевая математическая технология перспективных информационно-поисковых систем нового поколения, основанных на парадигме семантического разведочного поиска (exploratory search). Рассматриваются также прикладные задачи классификации, сегментации и суммаризации текстов, задачи анализа данных социальных сетей и рекомендательных систем. Развивается многокритериальный подход к построению композитных тематических моделей с заданными свойствами — аддитивная регуляризация тематических моделей (АРТМ). Он основан на регуляризации некорректно поставленных задач стохастического матричного разложения. Рассматриваются способы измерения и оптимизации важнейших свойств тематических моделей — правдоподобия, интерпретируемости, устойчивости, полноты. Рассматриваются задачи анализа и классификации символьных последовательностей неязыковой природы, в частности, аминокислотных и нуклеотидных последовательностей, дискретизированных биомедицинских сигналов. Предполагается проведение студентами численных экспериментов на модельных и реальных данных с помощью библиотеки тематического моделирования BigARTM.

От студентов требуются знания курсов линейной алгебры, математического анализа, теории вероятностей. Знание математической статистики, методов оптимизации, машинного обучения, языков программирования Python и С++ желательно, но не обязательно.

Материалы для первого ознакомления:

Обзорная презентация: (PDF, 4,4 МБ) — обновление 14.03.2016.
Видеолекция на ПостНауке: Разведочный информационный поиск.

Основной материал:

Обзор вероятностных тематических моделей — обновление 14.07.2017.

Краткая ссылка на эту страницу: bit.ly/2EGWcjA.

Программа курса

Условием сдачи спецкурса является выполнение индивидуальных практических заданий.

Введение

Презентация: (PDF, 1,2 МБ) — обновление 15.02.2018.

Цели и задачи тематического моделирования.

  • Понятие «темы», цели и задачи тематического моделирования.
  • Основные предположения. Гипотеза «мешка слов» (bag-of-words). Методы предварительной обработки текстов.
  • Вероятностное пространство. Тема как латентная (ненаблюдаемая) переменная. Гипотеза условной независимости.
  • Порождающая модель документа как вероятностной смеси тем.
  • Упрощённая вероятностная модель текста и элементарное решение обратной задачи
  • Постановка обратной задачи восстановления параметров модели по данным.

Математический инструментарий.

Аддитивная регуляризация тематических моделей.

  • Теорема о необходимом условии максимума регуляризованного правдоподобия для ARTM.
  • EM-алгоритм и его элементарная интерпретация. Формула Байеса и частотные оценки условных вероятностей.
  • Вероятностный латентный семантический анализ (probabilistic latent semantic analysis, PLSA).
  • Рациональный ЕМ-алгоритм (встраивание Е-шага внутрь М-шага). Оффлайновый регуляризованный EM-алгоритм.
  • Онлайновый регуляризованный EM-алгоритм. Распараллеливание.
  • Библиотека BigARTM.

Обзор базовых инструментов

Александр Романенко, Мурат Апишев. Презентация: (zip, 0,6 МБ) — обновление 17.02.2017.

Предварительная обработка текстов

  • Парсинг "сырых" данных.
  • Токенизация, стемминг и лемматизация.
  • Выделение энграмм.
  • Законы Ципфа и Хипса. Фильтрация словаря коллекции. Удаление стоп-слов.

Библиотека BigARTM

  • Методологические рекоммендации по проведению экспериментов.
  • Установка BigARTM.
  • Формат и импорт входных данных.
  • Обучение простой модели (без регуляризации): создание, инициализация, настройка и оценивание модели.
  • Инструмент визуализации тематических моделей VisARTM. Основные возможности, демонстрация работы.

Дополнительный материал:

  • Презентация: (PDF, 1,5 МБ) — обновление 17.03.2017.
  • Видео — обновление 22.03.2017.
  • Воркшоп по BigARTM на DataFest'4. Видео.

Аддитивная регуляризация тематических моделей

Презентация: (PDF, 3,1 МБ) — обновление 15.03.2018.

Теория ARTM

  • Мультимодальные тематические модели
  • Регуляризаторы сглаживания и разреживания
  • Разделение тем на предметные и фоновые

Время и пространство

  • Регуляризаторы времени
  • Эксперименты на коллекции пресс-релизов
  • Гео-пространственные модели

Иерархические тематические модели

  • Нисходящая послойная стратегия
  • Оценивание качества тематических иерархий
  • Визуализация иерархии

Разведочный информационный поиск

Презентация: (PDF, 4,5 МБ) — обновление 15.03.2018.

Разведочный информационный поиск

  • Концепция разведочного поиска
  • Визуализация больших текстовых коллекций
  • Сценарий разведочного поиска

Эксперименты с тематическим поиском

  • Методика эксперимента
  • Построение тематической модели
  • Оптимизация гиперпараметров

Эксперименты с тематическими моделями

  • Измерение качества тематической модели
  • Многокритериальное оценивание качества модели
  • Определение числа тем и регуляризатор отбора тем

Мультимодальные тематические модели

Презентация: (PDF, 1,4 МБ) — обновление 22.03.2018.

Мультиязычные тематические модели.

  • Параллельные и сравнимые коллекции.
  • Регуляризаторы для учёта двуязычных словарей.
  • Кросс-язычный информационный поиск.

Зависимости, корреляции, связи.

  • Тематические модели классификации и регрессии.
  • Модель коррелированных тем CTM (Correlated Topic Model).
  • Регуляризаторы гиперссылок и цитирования. Выявление тематических влияний в научных публикациях.

Социальные сети.

  • Выявление тематических сообществ. Регуляризаторы для направленных и ненаправленных связей.
  • Регуляризаторы для выявления социальных ролей пользователей.

Тематические модели совстречаемости слов

Презентация: (PDF, 1,9 МБ) — обновление 29.03.2018.

Мультиграммные модели.

  • Модель BigramTM.
  • Модель Topical N-grams (TNG).
  • Мультимодальная мультиграммная модель.

Автоматическое выделение терминов.

  • Алгоритм TopMine для быстрого поиска частых фраз. Критерии выделения коллокаций.
  • Синтаксический разбор. Нейросетевой синтаксический анализатор SyntaxNet.
  • Критерии тематичности фраз.

Тематические модели дистрибутивной семантики.

  • Дистрибутивная гипотеза. Модели CBOW и SGNS в программе word2vec.
  • Модель битермов BTM (Biterm Topic Model) для тематизации коллекций коротких текстов.
  • Модели WNTM (Word Network Topic Model) и WTM (Word Topic Model). Связь с моделью word2vec.
  • Понятие когерентности (согласованности). Экспериментально установленная связь когерентности и интерпретируемости.
  • Регуляризаторы когерентности.

Дополнительный материал:

  • Потапенко А. А. Векторные представления слов и документов. DataFest'4. Видео.

Тематическая сегментация и суммаризация

Презентация: (PDF, 2,0 МБ) — обновление ??.??.2018.

Модели связного текста.

  • Тематическая модель предложений и модель коротких сообщений Twitter-LDA.
  • Контекстная документная кластеризация (CDC).
  • Метод лексических цепочек.

Тематическая сегментация.

  • Метод TopicTiling. Критерии определения границ сегментов.
  • Критерии качества сегментации. Оптимизация параметров модели TopicTiling.

Методы суммаризации текстов.

  • Автоматическая суммаризация текстов: задачи и подходы.
  • Релаксационный метод для многокритериальной дискретной оптимизации.
  • Тематическая модель предложений для суммаризации.
  • Семейство критериев качества суммаризации ROUGE.

Байесовское обучение тематических моделей

Презентация: (PDF, 1,3 МБ) — обновление ??.??.2018.

EM-алгоритм.

  • Задачи оценивания скрытых параметров вероятностной модели.
  • EM-алгоритм для максимизации неполного правдоподобия. Сходимость в слабом смысле.
  • EM-алгоритм для модели PLSA.
  • EM-алгоритм с регуляризацией.

Методы оценивания параметров в модели LDA.

Языки описания вероятностных порождающих моделей.

  • Графическая плоская нотация (plate notation). Stop using plate notation.
  • Псевдокод порождающего процесса (genarative story).
  • Постановки оптимизационных задач.
  • Как читать статьи по баейсовским моделям и строить эквивалентные ARTM-модели.

Дополнительный материал:



Литература

  1. Воронцов К. В. Обзор вероятностных тематических моделей. — обновление 31.07.2017.
  2. Blei D. M., Ng A. Y., Jordan M. I. Latent Dirichlet allocation // Journal of Machine Learning Research. — 2003. — Vol. 3. — Pp. 993–1022.
  3. Asuncion A., Welling M., Smyth P., Teh Y. W. On smoothing and inference for topic models // Proceedings of the International Conference on Uncertainty in Artificial Intelligence. — 2009.
  4. Lu Y., Mei Q., Zhai C. Investigating task performance of probabilistic topic models: an empirical study of PLSA and LDA // Information Retrieval. — 2011. — Vol.14, no.2. — Pp. 178–203.
  5. Янина А. О., Воронцов К. В. Мультимодальные тематические модели для разведочного поиска в коллективном блоге // Машинное обучение и анализ данных. 2016. T.2. №2. С.173-186.

Ссылки

Подстраницы

Вероятностные тематические модели (курс лекций, К.В.Воронцов)/2015Вероятностные тематические модели (курс лекций, К.В.Воронцов)/2016Вероятностные тематические модели (курс лекций, К.В.Воронцов)/2017
Вероятностные тематические модели (курс лекций, К.В.Воронцов)/2018Вероятностные тематические модели (курс лекций, К.В.Воронцов)/2019, ВМКВероятностные тематические модели (курс лекций, К.В.Воронцов)/2020
Вероятностные тематические модели (курс лекций, К.В.Воронцов)/2021
Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%92%D0%B5%D1%80%D0%BE%D1%8F%D1%82%D0%BD%D0%BE%D1%81%D1%82%D0%BD%D1%8B%D0%B5_%D1%82%D0%B5%D0%BC%D0%B0%D1%82%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B5_%D0%BC%D0%BE%D0%B4%D0%B5%D0%BB%D0%B8_%28%D0%BA%D1%83%D1%80%D1%81_%D0%BB%D0%B5%D0%BA%D1%86%D0%B8%D0%B9%2C_%D0%9A.%D0%92.%D0%92%D0%BE%D1%80%D0%BE%D0%BD%D1%86%D0%BE%D0%B2%29»
Личные инструменты