Многомерная линейная регрессия
Материал из MachineLearning.
(→Многомерная линейная регрессия) |
|||
Строка 1: | Строка 1: | ||
- | |||
'''Многомерная линейная регрессия''' по сути есть [[Линейная регрессия (пример)|линейная регрессия]], в которой объекты <tex>x</tex> и ответы <tex>y</tex> являются векторами. | '''Многомерная линейная регрессия''' по сути есть [[Линейная регрессия (пример)|линейная регрессия]], в которой объекты <tex>x</tex> и ответы <tex>y</tex> являются векторами. | ||
Версия 12:13, 11 января 2009
Многомерная линейная регрессия по сути есть линейная регрессия, в которой объекты и ответы являются векторами.
Содержание |
Примеры задач
Многомерная линейная регрессия широко применяется в задачах прогнозирования временных рядов, где объекты и ответы являются рядами. В частности, в методе рукуррентной нейросети с откликом.
Обозначения
Пусть имеется набор вещественнозначных признаков . Введём матричные обозначения: матрицу информации , целевой вектор , вектор параметров и диагональную матрицу весов :
Метод наименьших квадратов как функционал качества
Задача минимизации функционала качества метода наименьших квадратов
существенно упрощается, если модель алгоритмов линейна по параметрам :
- .
В матричных обозначениях функционал среднего квадрата ощибки принимает вид
- .
Функционал с произвольными весами легко преводится к функционалу с единичными весами путём несложной предванительной обработки данных :
Литература
- Воронцов К. В. Лекции по алгоритмам восстановления регрессии