Однослойные сети RBF для решения задач регрессии (пример)
Материал из MachineLearning.
Строка 14: | Строка 14: | ||
<tex>N(x;\mu_j,\Sigma_j) = \frac{1}{\sqrt{(2\pi)^ndet\Sigma_j}}e^{-\frac{1}{2}(x-\mu_j)\Sigma_j^{-1}(x-\mu_j)^{T}}</tex> <br /> | <tex>N(x;\mu_j,\Sigma_j) = \frac{1}{\sqrt{(2\pi)^ndet\Sigma_j}}e^{-\frac{1}{2}(x-\mu_j)\Sigma_j^{-1}(x-\mu_j)^{T}}</tex> <br /> | ||
Требуется решить задачу [[регрессия|{{S|регрессии}}]] с помощью однослойной сети RBF, параметрами которой являются <br /> | Требуется решить задачу [[регрессия|{{S|регрессии}}]] с помощью однослойной сети RBF, параметрами которой являются <br /> | ||
- | <tex>k, w_j, \theta_j=(\mu_j,\Sigma_j), y(\mu_j)=Y_j, j=1\dots k</tex> <br /> | + | <tex>k, w_j, \theta_j=(\mu_j,\Sigma_j), y(\mu_j)=Y_j, j=1\dots k</tex>, где <br /> |
- | <tex>k</tex> - число компонент смеси <br /> | + | <tex>k</tex> - число компонент смеси <br />, |
- | <tex>w_j</tex>- веса компонент <br /> | + | <tex>w_j</tex>- веса компонент <br />, |
- | <tex>\theta_j=(\mu_j,\Sigma_j)</tex> - центры и дисперсия компонент <br /> | + | <tex>\theta_j=(\mu_j,\Sigma_j)</tex> - центры и дисперсия компонент <br />, |
- | <tex>y(\mu_j)=Y_j</tex> - значения свободных переменных в центрах компонент <br /> | + | <tex>y(\mu_j)=Y_j</tex> - значения свободных переменных в центрах компонент <br />. |
- | Смесь распределений тербуется восстановить с помощью EM-алгоритма с добавлением. | + | Смесь распределений тербуется восстановить с помощью EM-алгоритма с добавлением. <br />. |
Таким образом решается задача [[регрессия|{{S|регрессии}}]] с помощью однослойной сети RBF, обучаемой с помощью [[EM-алгоритм|{{S|EM-алгоритма с добавлением компонент}}]]. | Таким образом решается задача [[регрессия|{{S|регрессии}}]] с помощью однослойной сети RBF, обучаемой с помощью [[EM-алгоритм|{{S|EM-алгоритма с добавлением компонент}}]]. | ||
Версия 10:09, 7 июня 2010
Радиальная функция — это функция , зависящая только от расстояния между x и фиксированной точкой пространства X.
В данной работе используются гауссианы
, которые можно представить в виде
где — нормировочный множитель,
— взвешенная евклидова метрика в n-мерном пространстве X:
,
.
Сеть радиальных базисных функций - нейронная сеть прямого распространения сигнала, которая содержит промежуточный (скрытый) слой радиально симметричных нейронов. Такой нейрон преобразовывает расстояние от данного входного вектора до соответствующего ему "центра" по некоторому нелинейному закону - с помощью радиальной функции. В данной статье мы рассмотрим применение этой нейронной сети к решению задачи регрессии с помощью восстановления смесей распределений.
Постановка задачи
Задана выборка — множество значений свободных переменных и множество
соответствующих им значений зависимой переменной. Предполагается, что на множестве объектов задана плотность распределения
, представимая в виде смеси распределений -
гауссиан с параметрами
и
:
Требуется решить задачу регрессии с помощью однослойной сети RBF, параметрами которой являются
, где
- число компонент смеси
,
- веса компонент
,
- центры и дисперсия компонент
,
- значения свободных переменных в центрах компонент
.
Смесь распределений тербуется восстановить с помощью EM-алгоритма с добавлением.
.
Таким образом решается задача регрессии с помощью однослойной сети RBF, обучаемой с помощью EM-алгоритма с добавлением компонент.
Описание алгоритма
![]() | Данная статья является непроверенным учебным заданием.
До указанного срока статья не должна редактироваться другими участниками проекта MachineLearning.ru. По его окончании любой участник вправе исправить данную статью по своему усмотрению и удалить данное предупреждение, выводимое с помощью шаблона {{Задание}}. См. также методические указания по использованию Ресурса MachineLearning.ru в учебном процессе. |