Публикация:Вапник 1974 Теория распознавания образов

Материал из MachineLearning.

Версия от 18:54, 29 мая 2008; Vokov (Обсуждение | вклад)
(разн.) ← Предыдущая | Текущая версия (разн.) | Следующая → (разн.)
Перейти к: навигация, поиск

Вапник, В. Н., Червоненкис, А. Я. Теория распознавания образов. — М.: Наука, 1974. — 416 с.

BibTeX:
 @book{vapnik74theory,
   author = "Вапник, В. Н. and Червоненкис, А. Я.",
   title = "Теория распознавания образов",
   publisher = "М.: Наука",
   year = "1974",
   numpages = "416",
   language = russian
 }

Аннотация

Основополагающая монография по статистической теории восстановления зависимостей. Рассматриваются задачи, методы и алгоритмы классификации.

Вводятся понятия функции роста, энтропии и ёмкости системы событий. Доказывается, что ёмкость семейства линейных решающих правил равна числу свободных параметров.

Выводятся оценки скорости равномерной сходимости частоты ошибок к их вероятности, позволяющие обосновать метод минимизации эмпирического риска. Эти оценки нетривиальны только в том случае, когда ёмкость семейства алгоритмов много меньше длины обучающей выборки. В доказательствах используется комбинаторная техника, основанная на оценивании разности частот в двух подвыборках одинаковой длины.

Выводятся необходимые и достаточные условия равномерной сходимости частот появления событий к их вероятностям; доказывается, что частота сходится к вероятности равномерно по системе событий тогда и только тогда, когда доля энтропии, приходящейся на один элемент выборки, стремится к нулю с ростом длины выборки.

Предлагается метод упорядоченной (структурной) минимизации риска, предназначенный для выбора модели алгоритмов оптимальной сложности.

Первая часть книги содержит обзор современных (к началу 70-х) методов распознавания образов.

Вторая часть посвящена статистической теории восстановления зависимостей, разработанной авторами.

Третья часть содержит описания методов построения разделяющих поверхностей, в том числе метода обобщённого портрета.

Ссылки

Литература

  1. Вапник В. Н. Восстановление зависимостей по эмпирическим данным. — М.: Наука, 1979. — 448 с.  (подробнее) — Более поздняя книга, содержащая изложение основ теории и её обобщения на задачи восстановления регрессии и интерпретации результатов косвенных экспериментов.
Личные инструменты