Непараметрическая регрессия: ядерное сглаживание

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
м (См. также)
 
(6 промежуточных версий не показаны.)
Строка 1: Строка 1:
-
{{stop|
 
-
'''Статья плохо доработана.'''<br/>
 
-
Имеются указания по её улучшению:<br/>
 
-
[[Изображение:Edit3.jpg|||100px]][[Изображение:Edit4.jpg|||100px]]
 
-
}}
 
-
 
'''Ядерное сглаживание''' - один из простейших видов [[Непараметрическая регрессия|непараметрической регрессии]].
'''Ядерное сглаживание''' - один из простейших видов [[Непараметрическая регрессия|непараметрической регрессии]].
Строка 26: Строка 20:
::<tex>\int K(u)du=1</tex>
::<tex>\int K(u)du=1</tex>
=== Последовательность весов ===
=== Последовательность весов ===
-
Последовательность весов для ядерных оценок (для одномерного <tex>x</tex>) определяется как ::<tex>W_{mi}(x)=\frac{K_{h_m}(x\;-\;X_i)}{\hat{f}_{h_m}(x)}</tex>,
+
Последовательность весов для ядерных оценок (для одномерного <tex>x</tex>) определяется как ::<tex>W_{mi}(x)=\frac{K_{h_m}(x-X_i)}{\hat{f}_{h_m}(x)}</tex>,
где
где
-
::<tex>\hat{f}_{h_m}(x)=\frac{\sum_{i=1}^m K_{h_m}(x\;-\;X_i)}{m}</tex>,
+
::<tex>\hat{f}_{h_m}(x)=\frac1m \sum_{i=1}^m K_{h_m}(x-X_i)</tex>,
a
a
-
::<tex>K_{h_m}(u)=\frac{K\(\frac{u}{h_m}\)}{h_m}</tex>
+
::<tex>K_{h_m}(u)=\frac{1}{h_m} K\(\frac{u}{h_m}\)</tex>
представляет собой ядро с параметром <tex>h_m</tex>. Этот параметр принято называть шириной окна. Подчеркнув зависимость <tex>h\ =\ h_m</tex> от объема выборки <tex>m</tex>, условимся сокращенно обозначать последовательность весов <tex>W_{mi}(x)</tex>.
представляет собой ядро с параметром <tex>h_m</tex>. Этот параметр принято называть шириной окна. Подчеркнув зависимость <tex>h\ =\ h_m</tex> от объема выборки <tex>m</tex>, условимся сокращенно обозначать последовательность весов <tex>W_{mi}(x)</tex>.
Строка 37: Строка 31:
переменной <tex>x</tex>. Данный вид ядерных весов <tex>W_{mi}(x)</tex> был предложен в работах (Nadaraya, 1964) и (Watson, 1964). Как следствие, оценка
переменной <tex>x</tex>. Данный вид ядерных весов <tex>W_{mi}(x)</tex> был предложен в работах (Nadaraya, 1964) и (Watson, 1964). Как следствие, оценка
ожидаемой величины восстанавливаемой зависимости <tex>E(y\|x)</tex>:
ожидаемой величины восстанавливаемой зависимости <tex>E(y\|x)</tex>:
-
::<tex>\hat{m}_h(x)=\frac{m^{-1}\sum_{i=1}^m K_{h_m}(x\;-\;X_i)Y_i}{m^{-1}\sum_{i=1}^m K_{h_m}(x\;-\;X_i)}</tex>
+
::<tex>\hat{m}_h(x)=\frac{\frac1m\textstyle\sum\limits_{i=1}^m K_{h_m}(x-X_i)Y_i}{\frac1m\textstyle\sum\limits_{i=1}^m K_{h_m}(x-X_i)}</tex>
-
часто называют оценкой ''Надарая — Ватсона''.
+
часто называют оценкой ''Надарая—Ватсона''.
-
Ширина окна определяет насколько быстро убывают веса <tex>W_{mi}(x)</tex> по мере удаления объектов <tex>x_i</tex> от <tex>x</tex>.
+
Ширина окна определяет, насколько быстро убывают веса <tex>W_{mi}(x)</tex> по мере удаления объектов <tex>x_i</tex> от <tex>x</tex>.
Характер убывания определяется видом ядра <tex>K</tex>.
Характер убывания определяется видом ядра <tex>K</tex>.
Нормализация весов <tex>\hat{f}_{h_m}(x)</tex> гарантирует, что сумма весов равна единице.
Нормализация весов <tex>\hat{f}_{h_m}(x)</tex> гарантирует, что сумма весов равна единице.
'''Замечание'''. При ряде условий имеет место сходимость по вероятности данной оценки к <tex>E(y|x)</tex>.
'''Замечание'''. При ряде условий имеет место сходимость по вероятности данной оценки к <tex>E(y|x)</tex>.
 +
=== Пример функции ядра ===
=== Пример функции ядра ===
[[Изображение:CoreFunc.png|thumb|right|400px|Примеры различных функций ядра.]]
[[Изображение:CoreFunc.png|thumb|right|400px|Примеры различных функций ядра.]]
Строка 91: Строка 86:
}}
}}
==См. также==
==См. также==
-
* [[Ядерное сглаживание]]
 
* [[Алгоритм LOWESS]]
* [[Алгоритм LOWESS]]
* [[Вариация и смещение]]
* [[Вариация и смещение]]
* [[Регрессионный анализ]]
* [[Регрессионный анализ]]
-
[[Категория:Регрессионный анализ]]
+
[[Категория:Непараметрическая регрессия]]
-
{{Задание|Tolstikhin|Vokov|31 декабря 2009}}
+
{{ЗаданиеВыполнено|Tolstikhin|Vokov|31 декабря 2009}}

Текущая версия

Ядерное сглаживание - один из простейших видов непараметрической регрессии.

Содержание

Постановка задачи

Решается задача восстановления регрессии. Задано пространство объектов X и множество возможных

ответов Y=R. Существует неизвестная целевая зависимость  y^*: X \rightarrow Y, значения которой известны только на объектах обучающей выборки  X^m={(x_i, y_i)}_{i=1}^m. Требуется построить алгоритм a: X \rightarrow Y , аппроксимирующий целевую зависимость y^*.

Принцип

Принцип, используйщий идейно простой подход к представлению последовательности весов \{ W_{mi}(x) \}_{i=1}^m состоит в описании формы весовой функции W_{mi}(x) посредством функции плотности со скалярным параметром, который регулирует размер и форму весов около х. Эту функцию формы принято называть ядром K.

Полученные таким образом веса далее используются для представления величины a(x) в виде взвешенной суммы значений  y_i обучающей выборки.

Описание метода

Определение ядра

Ядро — это непрерывная ограниченная симметричная вещественная функция K с единичным интегралом

\int K(u)du=1

Последовательность весов

Последовательность весов для ядерных оценок (для одномерного x) определяется как ::W_{mi}(x)=\frac{K_{h_m}(x-X_i)}{\hat{f}_{h_m}(x)}, где

\hat{f}_{h_m}(x)=\frac1m \sum_{i=1}^m K_{h_m}(x-X_i),

a

K_{h_m}(u)=\frac{1}{h_m} K\(\frac{u}{h_m}\)

представляет собой ядро с параметром h_m. Этот параметр принято называть шириной окна. Подчеркнув зависимость h\ =\ h_m от объема выборки m, условимся сокращенно обозначать последовательность весов W_{mi}(x).

Функция ядра

Функция \hat{f}_{h_m}(x) является ядерной оценкой плотности Розенблата — Парзена (Rosenblatt, 1956; Parzen, 1962) для (маргинальной) плотности переменной x. Данный вид ядерных весов W_{mi}(x) был предложен в работах (Nadaraya, 1964) и (Watson, 1964). Как следствие, оценка ожидаемой величины восстанавливаемой зависимости E(y\|x):

\hat{m}_h(x)=\frac{\frac1m\textstyle\sum\limits_{i=1}^m K_{h_m}(x-X_i)Y_i}{\frac1m\textstyle\sum\limits_{i=1}^m K_{h_m}(x-X_i)}

часто называют оценкой Надарая—Ватсона. Ширина окна определяет, насколько быстро убывают веса W_{mi}(x) по мере удаления объектов x_i от x. Характер убывания определяется видом ядра K. Нормализация весов \hat{f}_{h_m}(x) гарантирует, что сумма весов равна единице.

Замечание. При ряде условий имеет место сходимость по вероятности данной оценки к E(y|x).

Пример функции ядра

Примеры различных функций ядра.
Примеры различных функций ядра.

На практике используется несколько видов ядерных функций. Чаще всего используется квартическая ядерная функция

K(u)=(15/16)(1-u^2)^2I(\| u \| \le 1).

Также используется ядро Епанечникова, обладающее некоторыми свойствами оптимальности [Хардле В п4.5]; это функция параболического типа (Epanechnikov, 1969; Bartlett, 1963):

K(u)=0.75(1-u^2)I(\| u \| \le 1).

Другими примерами являются ядро Гаусса,

K(u)=(2\pi)^{-1/2} \exp(-u^2/2),

треугольное ядро

K(u)=(1-\|u\|)I(\| u \| \le 1),

и прямоугольное ядро

K(u)=(1/2)I(\| u \| \le 1).

Замечание. Точность восстанавливаемой зависимости мало зависит от выбора ядра. Ядро определяет степень гладкости функции a(x).

Зависимость от ширины окна

Выбор окна решающим образом влияет на точность восстанавливаемой зависимости. При чересчур малых значениях h кривая a(x) стремится пройти через каждую точку выборки, остро реагируя на шумы и претерпевая резкие скачки, поскольку в этом случае оценка опирается только на небольшое число наблюдений из узкой окрестности точки x. Наоборот, если ширина окна велика, функция чрезмерно сглаживается и в пределе при  h \rightarrow \infty вырождается в константу -- усреднённое значение величин  y_i. В этом случае сглаженная функция не даёт возможности определить характерные особенности искомой зависимости  y^*(x).

Литература

  1. Хардле В. Прикладная непараметрическая регрессия. — 1989.
  2. Воронцов К.В. Лекции по алгоритмам восстановления регрессии. — 2007.
  3. Лагутин М.Б. Наглядная математическая статистика. — 2009.

См. также


Данная статья была создана в рамках учебного задания.
Студент: Участник:Tolstikhin
Преподаватель: Участник:Vokov
Срок: 31 декабря 2009


В настоящее время задание завершено и проверено. Данная страница может свободно правиться другими участниками проекта MachineLearning.ru.

См. также методические указания по использованию Ресурса MachineLearning.ru в учебном процессе.


Личные инструменты