Многомерная линейная регрессия
Материал из MachineLearning.
![]() | Статья в настоящий момент дорабатывается. SL 20:42, 10 января 2009 (MSK) |
Многомерная линейная регрессия по сути есть линейная регрессия, в которой объекты и ответы
являются векторами.
Содержание |
Примеры задач
Многомерная линейная регрессия широко применяется в задачах прогнозирования временных рядов, где объекты и ответы являются рядами. В частности, в методе рукуррентной нейросети с откликом.
Обозначения
Пусть имеется набор вещественнозначных признаков
. Введём матричные обозначения: матрицу информации
, целевой вектор
, вектор параметров
и диагональную матрицу весов
:
Метод наименьших квадратов как функционал качества
Задача минимизации функционала качества метода наименьших квадратов
существенно упрощается, если модель алгоритмов линейна по параметрам :
.
В матричных обозначениях функционал среднего квадрата ощибки принимает вид
.
Функционал с произвольными весами легко преводится к функционалу с единичными весами путём несложной предванительной обработки данных :
Литература
- Воронцов К. В. Лекции по алгоритмам восстановления регрессии