Функция ядра
Материал из MachineLearning.
(→Определение) |
(стилевые правки) |
||
| (10 промежуточных версий не показаны.) | |||
| Строка 1: | Строка 1: | ||
| - | ==Определение== | + | == Определение == |
Пусть <tex>X</tex> – некоторое пространство. Тогда отображение <tex>K:\ X \times X \to \mathbb R</tex> называется '''ядром''' или '''kernel function''', если оно представимо в виде: | Пусть <tex>X</tex> – некоторое пространство. Тогда отображение <tex>K:\ X \times X \to \mathbb R</tex> называется '''ядром''' или '''kernel function''', если оно представимо в виде: | ||
| - | <tex>K \left(x,x^{\prime} \right) = \left< \psi(x), \psi (x^{\prime}) \right>_H </tex>, где <tex> \psi </tex> – некоторое отображение <tex>\psi:\ X \to H </tex>. | + | <tex>K \left(x,x^{\prime} \right) = \left< \psi(x), \psi (x^{\prime}) \right>_H </tex>, где <tex> \psi </tex> – некоторое отображение <tex>\psi:\ X \to H </tex>. <br /> |
| + | |||
[[Теорема Мерсера]] устанавливает необходимые и достаточные условия, при которых отображение <tex>K\left(x,x^{\prime} \right)</tex> является ядром. Эти условия красивы с теоретической точки зрения, однако на практике их применение затруднительно. В качестве практически применимой альтернативы используют конструктивные способы порождения ядер. | [[Теорема Мерсера]] устанавливает необходимые и достаточные условия, при которых отображение <tex>K\left(x,x^{\prime} \right)</tex> является ядром. Эти условия красивы с теоретической точки зрения, однако на практике их применение затруднительно. В качестве практически применимой альтернативы используют конструктивные способы порождения ядер. | ||
| - | ==Конструктивные способы порождения ядер== | + | == Конструктивные способы порождения ядер == |
Ниже приведены некоторые правила, применение которых позволяет конструктивно получить любое ядро из достаточно широкого класса ядер: | Ниже приведены некоторые правила, применение которых позволяет конструктивно получить любое ядро из достаточно широкого класса ядер: | ||
| Строка 25: | Строка 26: | ||
| - | 8. '''Отображение с неотрицательным Фурье-образом''': <tex>K(x,x^{\prime}) = k(x-x^{\prime})</tex> – ''ядро'' тогда и только тогда, когда неотрицателен Фурье-образ отображения <tex>k</tex>, то есть: | + | 8. '''Отображение с неотрицательным Фурье-образом''': <tex>K(x,x^{\prime}) = k(x-x^{\prime})</tex> (где <tex>k</tex> — отображение <tex>k:X \to \mathbb R</tex>) – ''ядро'' тогда и только тогда, когда неотрицателен Фурье-образ отображения <tex>k</tex>, то есть верно, что: <br /> |
| - | <tex>F[k] (w) = (2 \pi)^{\frac{n}{2} | + | <tex>F[k] (w) = (2 \pi)^{\frac{n}{2}} \int\limits_X{ exp({-i \left<w,x \right>}) k(x)}\,dx \geq 0, \ \forall w \in \mathbb R </tex>; <br /> |
| - | 9. '''Степенной ряд''': Если <tex>K_0</tex> – ''ядро'', <tex>f: \ \mathbb R \to \mathbb R </tex> – сходящийся степенной ряд с неотрицательными коэффициентами, тогда <tex>K(x,x^{\prime}) = f(K_0(x,x^{\prime}))</tex> – ''ядро'' | + | 9. '''Степенной ряд''': Если <tex>K_0</tex> – ''ядро'', <tex>f: \ \mathbb R \to \mathbb R </tex> – сходящийся степенной ряд с неотрицательными коэффициентами, тогда <tex>K(x,x^{\prime}) = f(K_0(x,x^{\prime}))</tex> – ''ядро''. <br /> |
Этот список можно пополнять другими различными правилами. Обычно ''ядро'' выбирают, исходя из специфики задачи. | Этот список можно пополнять другими различными правилами. Обычно ''ядро'' выбирают, исходя из специфики задачи. | ||
| - | |||
== См. также == | == См. также == | ||
| + | * [[Метод опорных векторов]] | ||
* [[Теорема Мерсера]] | * [[Теорема Мерсера]] | ||
| - | * [[Спрямляющее | + | * [[Спрямляющее пространство]] |
* [[Линейный классификатор]] | * [[Линейный классификатор]] | ||
| + | |||
| + | == Ссылки == | ||
| + | * [http://en.wikipedia.org/wiki/Kernel_trick Kernel trick on Wikipedia] | ||
| + | |||
| + | |||
| + | [[Категория:Классификация]] | ||
| + | [[Категория:Линейные классификаторы]] | ||
| - | {{Задание|osa|Константин Воронцов| | + | {{Задание|osa|Константин Воронцов|21 января 2010}} |
Текущая версия
Содержание |
Определение
Пусть – некоторое пространство. Тогда отображение
называется ядром или kernel function, если оно представимо в виде:
, где
– некоторое отображение
.
Теорема Мерсера устанавливает необходимые и достаточные условия, при которых отображение является ядром. Эти условия красивы с теоретической точки зрения, однако на практике их применение затруднительно. В качестве практически применимой альтернативы используют конструктивные способы порождения ядер.
Конструктивные способы порождения ядер
Ниже приведены некоторые правила, применение которых позволяет конструктивно получить любое ядро из достаточно широкого класса ядер:
1. Тривиальное ядро: - ядро по определению;
2. Констатнта: – также является ядром;
3. Произведение ядер: – ядро, если
– ядра;
4. Произведение отображений: – ядро
;
5. Линейная комбинация ядер: - ядро
6. Композиция ядра и отображения: – ядро, где
– произовльное ядро и
– произвольное отображение
;
7. Интегральное скалярное произведение: – ядро для любой симметричной интегрируемой функции
;
8. Отображение с неотрицательным Фурье-образом: (где
— отображение
) – ядро тогда и только тогда, когда неотрицателен Фурье-образ отображения
, то есть верно, что:
;
9. Степенной ряд: Если – ядро,
– сходящийся степенной ряд с неотрицательными коэффициентами, тогда
– ядро.
Этот список можно пополнять другими различными правилами. Обычно ядро выбирают, исходя из специфики задачи.
См. также
Ссылки
| Данная статья является непроверенным учебным заданием.
До указанного срока статья не должна редактироваться другими участниками проекта MachineLearning.ru. По его окончании любой участник вправе исправить данную статью по своему усмотрению и удалить данное предупреждение, выводимое с помощью шаблона {{Задание}}. См. также методические указания по использованию Ресурса MachineLearning.ru в учебном процессе. |
