Материал из MachineLearning.
Аннотация
Временным рядом называется последовательность упорядоченных по времени значений некоторой вещественной переменной 
. Элемент последовательности называется отсчетом временного ряда.
Задача авторегрессионного прогноза заключается в нахождении модели $)
, где 
вектор параметров модели, которая наилучшим образом приближает следущее значение временного ряда $)
.
Свертка временного ряда возникает в случае существования на множестве подпоследовательностей временного ряда некоторого инварианта. Примером инварианта является период временного ряда, который физически может означать сезонность в данных. При этом построенная модель должна учитывать наличие инварианта и сохранять данное свойство для ряда прогнозов: 
.
Постановка задачи
Пусть задан временной ряд . Предполагается, что отсчеты 
были сделаны через равные промежутки времени, и период временного ряда равен 
, при этом 
, где 
.
Задана модель +\epsilon$)
,где случайная величина 
имеет нормальное распределение )
. Вектор параметров модели 
рассматривается как многомерная случайная величина. Пусть плотность распределения параметров имеет вид многомерного нормального распределения )
с матрицей ковариации 
. Модель некоторым образом учитывает период временного ряда.
Предполагается, модель временного ряда может меняться с течением времени, т.е. для разных подпоследовательностей длины 
оптимальные параметры модели будут отличаться. Расстояние между различными подпоследовательностями \cdot{p}})
и \cdot{p}})
измеряется как сумма квадратов отклонений:
^2})
.
Расстояние между параметрами модели , настроенной на разных подпоследовательностях, можно измерить как расстояние Кульбака-Лейблера между функциями распределения 2-ух случаных величин }{q(x)})
:
 = \sum\limits_{x\in \mathcal{X}} p(x) \ln \frac{p(x)}{q(x)}.)
Требуется исследовать зависимость расстояния между параметрами модели от расстояния между подпоследовательностями, на которых эти параметры были настроены.
Алгоритм
В терминах поставленной задачи следует решить следующую задачу оптимизации: 
, где
p} & \phi^1(x_{(n-1)p-1})&\dots &\phi^u(x_{(n-1)p-1})& \ldots & \phi^u(x_{(n-1)p-(p-1)}) \\
\vdots & \vdots & \ddots & \vdots & \ddots & \vdots \\
x_{p} & \phi^1(x_{p-1})&\dots &\phi^u(x_{p-1})& \ldots & \phi^u(x_{1}) \\
\end{array}
\right)=
\left(
\begin{array}{l|l}
\mathbf{y} & \mathbf{X}
\end{array}
\right).
)
Если зафиксировать набор порождающих функций 
, то возникает задача линейной регрессии, которую можно решать несколькими способами. Так как за счет большого количества порождающих функций у нас появится огромное количество признаков то наиболее подходящими будут методы, проводящие отбор признаков: гребневая регрессия, лассо, шаговая регрессия, метод наименьших углов(ЛАРС).
Вычислительный эксперимент
Вычислительный эксперимент проводился на реальных данных. Использовались временные ряды потребления электроэнергии в некотором регионе с отсчетами а) 1 час и b) 24 часа. В первом случае период ряда был равен 
, во втором 
. Для решения задача линейной регрессии использовался метод наименьших углов (ЛАРС).
Исходный код
Смотри также
Литература
- Стрижов В.В, Пташко Г.О. Построение инвариантов на множестве временных рядов путем динамической свертки свободной переменной. — ВЦ РАН, 2009.
- Стрижов В.В Методы выбора регрессионных моделей. — ВЦ РАН, 2010.
