Участник:Mshinkevich

Материал из MachineLearning.

Шинкевич Михаил Игоревич, МФТИ, ФУПМ, 174

Отчет о научно-исследовательской работе

Весна 2014, 6-й семестр

Влияние регуляризаторов разреживания, сглаживания и декорреляции на устойчивость вероятностной тематической модели

В данной работе изучается проблема устойчивости решения задачи вероятностного тематического моделирования, вызванная неоднозначностью матричного разложения. Для ее решения предлагается использовать подход аддитивной регуляризации тематических моделей. Ранее было показано, что с помощью регуляризаторов разреживания, сглаживания и декорреляции возможно улучшить решение, однако их влияние на устойчивость полученного решения не исследовалось. В данной работе проверяется гипотеза о повышении устойчивости восстановления тематических матриц в регуляризованных тематических моделях. Исследуется оптимальное сочетание регуляризаторов, повышающее устойчивость. Эксперименты производятся на реалистичных модельных данных, удовлетворяющих гипотезам разреженности, слабой коррелированности тем и наличия фоновых тем.

Подготовлена статья:

• Шинкевич М.И., Воронцов К.В. Влияние регуляризаторов разреживания, сглаживания и декорреляции на устойчивость вероятностной тематической модели // Будет подано в JMLDA