Многомерная линейная регрессия
Материал из MachineLearning.
(→Многомерная линейная регрессия) |
|||
Строка 1: | Строка 1: | ||
- | |||
'''Многомерная линейная регрессия''' по сути есть [[Линейная регрессия (пример)|линейная регрессия]], в которой объекты <tex>x</tex> и ответы <tex>y</tex> являются векторами. | '''Многомерная линейная регрессия''' по сути есть [[Линейная регрессия (пример)|линейная регрессия]], в которой объекты <tex>x</tex> и ответы <tex>y</tex> являются векторами. | ||
Версия 12:13, 11 января 2009
Многомерная линейная регрессия по сути есть линейная регрессия, в которой объекты и ответы
являются векторами.
Содержание |
Примеры задач
Многомерная линейная регрессия широко применяется в задачах прогнозирования временных рядов, где объекты и ответы являются рядами. В частности, в методе рукуррентной нейросети с откликом.
Обозначения
Пусть имеется набор вещественнозначных признаков
. Введём матричные обозначения: матрицу информации
, целевой вектор
, вектор параметров
и диагональную матрицу весов
:
Метод наименьших квадратов как функционал качества
Задача минимизации функционала качества метода наименьших квадратов
существенно упрощается, если модель алгоритмов линейна по параметрам :
.
В матричных обозначениях функционал среднего квадрата ощибки принимает вид
.
Функционал с произвольными весами легко преводится к функционалу с единичными весами путём несложной предванительной обработки данных :
Литература
- Воронцов К. В. Лекции по алгоритмам восстановления регрессии