Участник:Kropotov

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(уменьшены картинки для лучшей читаемости)
(+ новая версия (1.10) библиотеки gridrvm)
Строка 32: Строка 32:
|}
|}
-
==== Табулярный метод релевантных векторов ====
+
==== Метод релевантных векторов для данных в виде многомерных массивов ====
{| style="border:0px;"
{| style="border:0px;"
|-
|-
-
| valign = "top" | Реализация под MatLab алгоритма решения задач классификации и регрессии с т.н. табулярными данными. В таких задачах каждый объект выборки представлен своей матрицей признаков, и представляет интерес поиск информативных строк и столбцов в этой матрице. Реализованный алгоритм — это вариационный метод релевантных векторов для табулярных данных, описанный в статье [http://jmlr.csail.mit.edu/proceedings/papers/v13/kropotov10a/kropotov10a.pdf (Kropotov et al., 2010)].
+
| valign = "top" | Реализация под MatLab алгоритма решения задач классификации и регрессии, в которых каждый объект выборки представлен многомерным массивом признаков (в частности, матрицей признаков), и представляет интерес поиск информативных строк в этом многомерном массиве. Реализованный алгоритм — это вариационный метод релевантных векторов для табулярных данных, описанный в статье [http://jmlr.csail.mit.edu/proceedings/papers/v13/kropotov10a/kropotov10a.pdf (Kropotov et al., 2010)].
-
Скачать: [[Media:gridrvm_library.rar|gridrvm V1.00 (RAR, 158 Кб)]]
+
Скачать: [[Media:gridrvm_110.rar|gridrvm V1.10 (RAR, 180 Кб)]]
| valign = "top" | [[Изображение:grid.jpg|150px|thumb|Матрица признаков одного объекта]]
| valign = "top" | [[Изображение:grid.jpg|150px|thumb|Матрица признаков одного объекта]]

Версия 15:02, 2 февраля 2011


    Кропотов Дмитрий Александрович

м.н.с. Вычислительного Центра РАН

Написать письмо.

Научные интересы

Байесовские методы машинного обучения, методы обучения и вывода в графических моделях, практический интеллектуальный анализ данных

Публикации

Список публикаций см. здесь.

Программные реализации

Обобщенные линейные модели

Реализация под MatLab ряда классических алгоритмов решения задач классификации и регрессии на основе обобщенных линейных моделей, таких как байесовская линейная/логистическая регрессия, метод релевантных векторов и вариационный метод релевантных векторов. Эти алгоритмы просты в использовании и, как правило, обладают высокой скоростью работы. С их помощью можно решать задачи классификации и регрессии, а также осуществлять отбор значимых признаков.

Скачать: glm V1.05 (RAR, 243 Кб)

Пример решения задачи регрессии: восстановление зашумленной функции sinc
Пример решения задачи регрессии: восстановление зашумленной функции sinc

Метод релевантных векторов для данных в виде многомерных массивов

Реализация под MatLab алгоритма решения задач классификации и регрессии, в которых каждый объект выборки представлен многомерным массивом признаков (в частности, матрицей признаков), и представляет интерес поиск информативных строк в этом многомерном массиве. Реализованный алгоритм — это вариационный метод релевантных векторов для табулярных данных, описанный в статье (Kropotov et al., 2010).

Скачать: gridrvm V1.10 (RAR, 180 Кб)

Матрица признаков одного объекта
Матрица признаков одного объекта
Только часть строк и столбцов матрицы являются информативными
Только часть строк и столбцов матрицы являются информативными

Смесь нормальных распределений

Реализация под MatLab алгоритмов решения задачи кластеризации с помощью восстановления смеси нормальных распределений с использованием EM-алгоритма, а также вариационного подхода, описанного в книге (Bishop, 2006). Количество кластеров может быть определено автоматически по данным с помощью скользящего контроля или с помощью подхода на основе автоматического определения релевантности, описанного в статье (Vetrov et al., 2010). Применение вариационного подхода для восстановления смеси нормальных распределений также позволяет автоматически определить число кластеров в данных.

Скачать: gmm V1.10 (RAR, 102 Кб)

Пример кластеризации: начальное приближение с 20 кластерами
Пример кластеризации: начальное приближение с 20 кластерами
Пример кластеризации: финальная кластеризация на 5 кластеров
Пример кластеризации: финальная кластеризация на 5 кластеров

Реализации выполнены при поддержке РФФИ (проекты 09-01-12060, 09-01-92474).

Учебные курсы

Спецкурс «Байесовские методы машинного обучения»
Спецкурс «Структурные методы анализа изображений и сигналов»
Спецсеминар «Байесовские методы машинного обучения»

Личные инструменты