Функция ядра

Материал из MachineLearning.

Версия 22:45, 2 января 2010 (править) Osa (Обсуждение | вклад) ← К предыдущему изменению		Текущая версия (18:24, 19 января 2010) (править) (отменить) Osa (Обсуждение | вклад) (стилевые правки)
(14 промежуточных версий не показаны.)
Строка 1:		Строка 1:
-	{{Задание|osa|Константин Воронцов|25 января 2010}}	+	== Определение ==
		+	Пусть <tex>X</tex> – некоторое пространство. Тогда отображение <tex>K:\ X \times X \to \mathbb R</tex> называется '''ядром''' или '''kernel function''', если оно представимо в виде:
-	'''Ядро''' — это непрерывная ограниченная симметричная вещественная функция <tex>K</tex> с единичным интегралом	+	<tex>K \left(x,x^{\prime} \right) = \left< \psi(x), \psi (x^{\prime}) \right>_H </tex>, где <tex> \psi </tex> – некоторое отображение <tex>\psi:\ X \to H </tex>. <br />
-	::<tex>\int K(u)du=1</tex>	+
		+
		+	[[Теорема Мерсера]] устанавливает необходимые и достаточные условия, при которых отображение <tex>K\left(x,x^{\prime} \right)</tex> является ядром. Эти условия красивы с теоретической точки зрения, однако на практике их применение затруднительно. В качестве практически применимой альтернативы используют конструктивные способы порождения ядер.
		+
		+	== Конструктивные способы порождения ядер ==
		+
		+	Ниже приведены некоторые правила, применение которых позволяет конструктивно получить любое ядро из достаточно широкого класса ядер:
		+
		+	1. '''Тривиальное ядро''': <tex>K(x,x^{\prime}) = \left< x,x^{\prime} \right></tex> - ''ядро'' по определению; <br />
		+
		+	2. '''Констатнта''': <tex>K(x,x^{\prime}) = 1 </tex> – также является ''ядром''; <br />
		+
		+	3. '''Произведение ядер''': <tex>K(x,x^{\prime}) = K_1(x,x^{\prime})K_2(x,x^{\prime})</tex> – ''ядро'', если <tex>K_1,K_2</tex> – ''ядра''; <br />
		+
		+	4. '''Произведение отображений''': <tex>K(x,x^{\prime}) = \psi(x) \psi(x^{\prime}) </tex> – ''ядро'' <tex>\forall \psi:\ X \to \mathbb R </tex>; <br/>
		+
		+	5. '''Линейная комбинация ядер''': <tex>K(x,x^{\prime}) = \alpha_1 K_1(x,x^{\prime}) + \alpha_2 K_2(x,x^{\prime}) </tex> - ''ядро'' <tex>\forall \alpha_1,\alpha_2 \geq 0 </tex> <br />
		+
		+	6. '''Композиция ядра и отображения''': <tex>K(x,x^{\prime}) = K_0\left(\varphi(x),\varphi(x^{\prime})\right) </tex> – ''ядро'', где <tex>K_0(x,x^{\prime})</tex> – произовльное ''ядро'' и <tex>\varphi(x)</tex> – произвольное отображение <tex>\varphi: \ X \to X</tex>; <br />
		+
		+	7. '''Интегральное скалярное произведение''': <tex>\int\limits_X S(x,z)S(x^{\prime},z)\,dz</tex> – ''ядро'' для любой симметричной интегрируемой функции <tex>S:\ X\times X \to \mathbb R</tex>; <br />
		+
		+
		+	8. '''Отображение с неотрицательным Фурье-образом''': <tex>K(x,x^{\prime}) = k(x-x^{\prime})</tex> (где <tex>k</tex> — отображение <tex>k:X \to \mathbb R</tex>) – ''ядро'' тогда и только тогда, когда неотрицателен Фурье-образ отображения <tex>k</tex>, то есть верно, что: <br />
		+	<tex>F[k] (w) = (2 \pi)^{\frac{n}{2}} \int\limits_X{ exp({-i \left<w,x \right>}) k(x)}\,dx \geq 0, \ \forall w \in \mathbb R </tex>; <br />
		+
		+	9. '''Степенной ряд''': Если <tex>K_0</tex> – ''ядро'', <tex>f: \ \mathbb R \to \mathbb R </tex> – сходящийся степенной ряд с неотрицательными коэффициентами, тогда <tex>K(x,x^{\prime}) = f(K_0(x,x^{\prime}))</tex> – ''ядро''. <br />
		+
		+
		+	Этот список можно пополнять другими различными правилами. Обычно ''ядро'' выбирают, исходя из специфики задачи.
		+
		+	== См. также ==
		+	* [[Метод опорных векторов]]
		+	* [[Теорема Мерсера]]
		+	* [[Спрямляющее пространство]]
		+	* [[Линейный классификатор]]
		+
		+	== Ссылки ==
		+	* [http://en.wikipedia.org/wiki/Kernel_trick Kernel trick on Wikipedia]
		+
		+
		+	[[Категория:Классификация]]
		+	[[Категория:Линейные классификаторы]]
		+
		+
		+	{{Задание|osa|Константин Воронцов|21 января 2010}}

---

Текущая версия

Содержание 1 Определение 2 Конструктивные способы порождения ядер 3 См. также 4 Ссылки

Определение

Пусть – некоторое пространство. Тогда отображение называется ядром или kernel function, если оно представимо в виде:

, где – некоторое отображение .

Теорема Мерсера устанавливает необходимые и достаточные условия, при которых отображение является ядром. Эти условия красивы с теоретической точки зрения, однако на практике их применение затруднительно. В качестве практически применимой альтернативы используют конструктивные способы порождения ядер.

Конструктивные способы порождения ядер

Ниже приведены некоторые правила, применение которых позволяет конструктивно получить любое ядро из достаточно широкого класса ядер:

1. Тривиальное ядро: - ядро по определению;

2. Констатнта: – также является ядром;

3. Произведение ядер: – ядро, если – ядра;

4. Произведение отображений: – ядро ;

5. Линейная комбинация ядер: - ядро

6. Композиция ядра и отображения: – ядро, где – произовльное ядро и – произвольное отображение ;

7. Интегральное скалярное произведение: – ядро для любой симметричной интегрируемой функции ;

8. Отображение с неотрицательным Фурье-образом: (где — отображение ) – ядро тогда и только тогда, когда неотрицателен Фурье-образ отображения , то есть верно, что:
;

9. Степенной ряд: Если – ядро, – сходящийся степенной ряд с неотрицательными коэффициентами, тогда – ядро.

Этот список можно пополнять другими различными правилами. Обычно ядро выбирают, исходя из специфики задачи.

См. также

• Метод опорных векторов
• Теорема Мерсера
• Спрямляющее пространство
• Линейный классификатор

Ссылки

• Kernel trick on Wikipedia

Данная статья является непроверенным учебным заданием. Студент: Участник:osa Преподаватель: Участник:Константин Воронцов Срок: 21 января 2010 До указанного срока статья не должна редактироваться другими участниками проекта MachineLearning.ru. По его окончании любой участник вправе исправить данную статью по своему усмотрению и удалить данное предупреждение, выводимое с помощью шаблона {{Задание}}. См. также методические указания по использованию Ресурса MachineLearning.ru в учебном процессе.