Интерполяция кубическими сплайнами

Материал из MachineLearning.

Версия от 06:54, 19 июля 2026; Kseniia Karpeeva (Обсуждение | вклад)

(разн.) ← Предыдущая | Текущая версия (разн.) | Следующая → (разн.)

Статья существенно переработана с использованием LLM GPT-5.6 Thinking и проверена участником Kseniia Karpeeva.

Промпт приводится полностью в обсуждении статьи.

Интерполяция кубическими сплайнами — метод интерполяции, при котором гладкая функция строится по значениям, заданным в отдельных точках. Между каждой парой соседних узлов используется свой кубический многочлен, а в узлах эти многочлены согласуются так, чтобы функция и её первые две производные оставались непрерывными.

В статье сначала рассматривается общая идея сплайн-интерполяции, а затем подробно выводится натуральный кубический сплайн, для которого вторая производная равна нулю на концах отрезка.

В отличие от одного интерполяционного многочлена высокой степени, сплайн строится из локальных полиномиальных участков. Благодаря этому он обычно меньше подвержен сильным колебаниям между узлами и удобен для обработки экспериментальных данных, построения гладких траекторий и численного представления функций.

Для построения натурального кубического сплайна достаточно найти значения второй производной в узлах

$M_i=S''(x_i).$

Они определяются из трёхдиагональной системы линейных уравнений. После этого все участки сплайна восстанавливаются по явным формулам.

Содержание

1 Зачем нужны сплайны
2 Почему используются кубические многочлены
3 Постановка задачи
4 Определение кубического сплайна
5 Граничные условия
6 Построение натурального кубического сплайна
- 6.1 Вторая производная на одном промежутке
- 6.2 Восстановление функции
- 6.3 Уравнения для узловых вторых производных
7 Решение методом прогонки
8 Коэффициенты локальных многочленов
9 Численный пример
10 Вариационное свойство
- 10.1 Идея доказательства
11 Точность интерполяции
12 Ограничения метода
- 12.1 Выбросы между узлами
- 12.2 Шумные данные
- 12.3 Экстраполяция
- 12.4 Неравномерные сетки
13 Как выбрать метод интерполяции
14 Программная реализация
15 Связь с современными методами машинного обучения
- 15.1 Нерегулярные временные ряды
- 15.2 Kolmogorov — Arnold Networks
16 Алгоритм построения
17 См. также
18 Примечания
19 Литература
20 Ссылки

Зачем нужны сплайны

Пусть значения некоторой функции известны только в конечном наборе точек. Задача интерполяции состоит в том, чтобы построить функцию, которая проходит через эти точки и позволяет оценивать значения между ними.

Самый прямой подход — провести через все точки один интерполяционный многочлен. Однако с ростом числа узлов увеличивается и его степень. Такой многочлен зависит сразу от всех исходных данных и может сильно колебаться между узлами. На некоторых сетках это приводит к феномену Рунге.

Кубический сплайн использует другой принцип:

отрезок разбивается на небольшие промежутки;
на каждом промежутке строится отдельный кубический многочлен;
соседние многочлены согласуются в общих узлах;
после построения значение сплайна в заданной точке вычисляется по многочлену только одного промежутка.

При правильном согласовании участков функция, её первая и вторая производные непрерывны. Поэтому график не имеет углов в узлах, а его кривизна изменяется непрерывно.

При этом слово «локальный» следует понимать аккуратно. Значение уже построенного сплайна вычисляется локально, но его коэффициенты находятся из общей системы уравнений. Изменение одного узлового значения, вообще говоря, влияет на коэффициенты всех участков.

Почему используются кубические многочлены

Линейная интерполяция проста, но её график имеет изломы в узлах: первая производная меняется скачком.

Квадратичные сплайны позволяют получить более гладкую функцию, однако оставляют меньше свободы при согласовании соседних участков и требуют дополнительного выбора условий.

Кубический многочлен имеет четыре коэффициента. Поэтому на одном промежутке он может одновременно учитывать:

значение функции на левом конце;
значение функции на правом конце;
наклон на левом конце;
наклон на правом конце.

Кубическая степень является стандартным компромиссом между гладкостью, вычислительной сложностью и устойчивостью. Она позволяет построить функцию класса $C^2$ , не переходя к многочленам высокой степени.

Постановка задачи

Пусть функция задана значениями в узлах

$a=x_0<x_1<\dots<x_n=b,$

где

$y_i=f(x_i),\qquad i=0,\dots,n.$

Расстояния между соседними узлами обозначим через

$h_i=x_{i+1}-x_i>0,\qquad i=0,\dots,n-1.$

Требуется построить функцию $S$ , которая проходит через все заданные точки,

$S(x_i)=y_i,\qquad i=0,\dots,n,$

и на каждом промежутке $[x_i,x_{i+1}]$ является многочленом степени не выше трёх.

Ограничение сплайна на отдельный промежуток будем обозначать через

$S_i(x)=S(x),\qquad x\in[x_i,x_{i+1}].$

Определение кубического сплайна

Функция $S\colon[a,b]\to\mathbb R$ называется кубическим интерполяционным сплайном для данных $(x_i,y_i)$ , если выполняются следующие условия:

на каждом промежутке $[x_i,x_{i+1}]$ функция $S_i$ является многочленом степени не выше трёх;
сплайн проходит через все узлы:
$S(x_i)=y_i,\qquad i=0,\dots,n;$
в каждом внутреннем узле согласованы первые производные:
$S_{i-1}'(x_i)=S_i'(x_i),\qquad i=1,\dots,n-1;$
в каждом внутреннем узле согласованы вторые производные:
$S_{i-1}''(x_i)=S_i''(x_i),\qquad i=1,\dots,n-1.$

Из условий интерполяции следует непрерывность самой функции:

$S_{i-1}(x_i)=S_i(x_i)=y_i.$

Таким образом,

$S\in C^2[a,b].$

Третья производная на каждом промежутке постоянна, но в узлах она, вообще говоря, имеет скачки.

Для $n$ промежутков необходимо определить $4n$ коэффициентов. Условия интерполяции дают $2n$ уравнений, а согласование первых и вторых производных — ещё $2(n-1)$ . Всего получается $4n-2$ условий.

Два недостающих условия задаются на концах отрезка. От их выбора зависит тип кубического сплайна.

Граничные условия

Граничные условия определяют поведение сплайна у концов отрезка. Наиболее распространённые варианты приведены в таблице.

Тип сплайна	Граничные условия	Когда применяется
Натуральный	$S''(x_0)=S''(x_n)=0$	Производные на концах неизвестны, а нулевая кривизна считается приемлемой
Закреплённый	$S'(x_0)=p_0,\;S'(x_n)=p_n$	Известны наклоны исходной функции на концах
Периодический	$S^{(k)}(x_0)=S^{(k)}(x_n),\;k=0,1,2$	Данные описывают периодический процесс; должно выполняться $y_0=y_n$
Not-a-knot	Первые два участка и последние два участка попарно являются продолжениями одного кубического многочлена	Нет содержательных граничных условий; распространённый программный вариант

Условие not-a-knot можно также записать как непрерывность третьей производной в узлах $x_1$ и $x_{n-1}$ .

В классе scipy.interpolate.CubicSpline по умолчанию используется условие not-a-knot. Натуральные условия необходимо задавать явно через параметр bc_type="natural".^[1]

Название «натуральный» не означает, что этот вариант всегда является лучшим. Граничные условия представляют собой часть математической модели и должны выбираться с учётом свойств исходной задачи.

Построение натурального кубического сплайна

Для натурального сплайна выполняются условия

$S''(x_0)=0,\qquad S''(x_n)=0.$

Введём узловые значения второй производной:

$M_i=S''(x_i),\qquad i=0,\dots,n.$

Тогда граничные условия принимают вид

$M_0=0,\qquad M_n=0.$

Вторая производная на одном промежутке

На промежутке $[x_i,x_{i+1}]$ функция $S_i$ является кубическим многочленом. Поэтому её вторая производная линейна.

Значения этой линейной функции на концах известны:

$S_i''(x_i)=M_i,\qquad S_i''(x_{i+1})=M_{i+1}.$

Следовательно,

$S_i''(x)=M_i\frac{x_{i+1}-x}{h_i}+M_{i+1}\frac{x-x_i}{h_i},\qquad x\in[x_i,x_{i+1}].$

Это выражение является обычной линейной интерполяцией второй производной между значениями $M_i$ и $M_{i+1}$ .

Восстановление функции

Дважды проинтегрируем выражение для $S_i''$ . Постоянные интегрирования определяются из условий

$S_i(x_i)=y_i,\qquad S_i(x_{i+1})=y_{i+1}.$

В результате получаем

$S_i(x)=M_i\frac{(x_{i+1}-x)^3}{6h_i}+M_{i+1}\frac{(x-x_i)^3}{6h_i}+\left(y_i-\frac{M_i h_i^2}{6}\right)\frac{x_{i+1}-x}{h_i}+\left(y_{i+1}-\frac{M_{i+1}h_i^2}{6}\right)\frac{x-x_i}{h_i}.$

Из этой формулы непосредственно следуют равенства

$S_i(x_i)=y_i,\qquad S_i(x_{i+1})=y_{i+1},$

а также

$S_i''(x_i)=M_i,\qquad S_i''(x_{i+1})=M_{i+1}.$

Таким образом, интерполяция и непрерывность второй производной уже заложены в конструкцию. Остаётся выбрать $M_i$ так, чтобы в узлах совпадали первые производные.

Уравнения для узловых вторых производных

Первые производные на концах промежутка равны

$S_i'(x_i)=\frac{y_{i+1}-y_i}{h_i}-\frac{h_i}{6}(2M_i+M_{i+1}),$

$S_i'(x_{i+1})=\frac{y_{i+1}-y_i}{h_i}+\frac{h_i}{6}(M_i+2M_{i+1}).$

Во внутреннем узле $x_i$ должно выполняться условие

$S_{i-1}'(x_i)=S_i'(x_i).$

Подставляя выражения для производных, получаем

$\frac{y_i-y_{i-1}}{h_{i-1}}+\frac{h_{i-1}}{6}(M_{i-1}+2M_i)=\frac{y_{i+1}-y_i}{h_i}-\frac{h_i}{6}(2M_i+M_{i+1}).$

После преобразования:

$h_{i-1}M_{i-1}+2(h_{i-1}+h_i)M_i+h_iM_{i+1}=6\left(\frac{y_{i+1}-y_i}{h_i}-\frac{y_i-y_{i-1}}{h_{i-1}}\right),\qquad i=1,\dots,n-1.$

Обозначим правую часть через

$r_i=6\left(\frac{y_{i+1}-y_i}{h_i}-\frac{y_i-y_{i-1}}{h_{i-1}}\right).$

Тогда система имеет вид

$h_{i-1}M_{i-1}+2(h_{i-1}+h_i)M_i+h_iM_{i+1}=r_i.$

С учётом условий $M_0=M_n=0$ неизвестными остаются $M_1,\dots,M_{n-1}$ .

В матричной форме:

$\begin{pmatrix}2(h_0+h_1)&h_1&0&\cdots&0\\h_1&2(h_1+h_2)&h_2&\ddots&\vdots\\0&h_2&2(h_2+h_3)&\ddots&0\\\vdots&\ddots&\ddots&\ddots&h_{n-2}\\0&\cdots&0&h_{n-2}&2(h_{n-2}+h_{n-1})\end{pmatrix}\begin{pmatrix}M_1\\M_2\\\vdots\\M_{n-2}\\M_{n-1}\end{pmatrix}=\begin{pmatrix}r_1\\r_2\\\vdots\\r_{n-2}\\r_{n-1}\end{pmatrix}.$

Полученная матрица является трёхдиагональной и симметричной. Для каждой строки диагональный элемент строго превосходит сумму модулей внедиагональных элементов:

$2(h_{i-1}+h_i)>h_{i-1}+h_i.$

Следовательно, матрица обладает строгим диагональным преобладанием. Поскольку $h_i>0$ , система невырождена и имеет единственное решение.

Решение методом прогонки

Трёхдиагональная структура позволяет использовать метод прогонки, также известный как алгоритм Томаса.

Запишем уравнения в форме

$\ell_iM_{i-1}+d_iM_i+u_iM_{i+1}=r_i,$

где

$\ell_i=h_{i-1},\qquad d_i=2(h_{i-1}+h_i),\qquad u_i=h_i.$

Искомые значения представляются как

$M_i=\alpha_iM_{i+1}+\beta_i.$

Для первой строки, в которой $M_0=0$ ,

$\alpha_1=-\frac{u_1}{d_1},\qquad \beta_1=\frac{r_1}{d_1}.$

На прямом ходе для $i=2,\dots,n-2$ вычисляются

$\alpha_i=-\frac{u_i}{d_i+\ell_i\alpha_{i-1}},$

$\beta_i=\frac{r_i-\ell_i\beta_{i-1}}{d_i+\ell_i\alpha_{i-1}}.$

Последнее неизвестное определяется по формуле

$M_{n-1}=\frac{r_{n-1}-\ell_{n-1}\beta_{n-2}}{d_{n-1}+\ell_{n-1}\alpha_{n-2}}.$

Затем выполняется обратный ход:

$M_i=\alpha_iM_{i+1}+\beta_i,\qquad i=n-2,\dots,1.$

Построение системы, прямой ход и обратный ход требуют $O(n)$ операций и $O(n)$ памяти. Таким образом, вычислительная сложность построения сплайна линейна по числу узлов.

Строгое диагональное преобладание гарантирует, что знаменатели в формулах прогонки не обращаются в нуль.

Коэффициенты локальных многочленов

После нахождения $M_i$ удобно использовать локальную переменную

$t=x-x_i.$

На промежутке $[x_i,x_{i+1}]$ сплайн записывается как

$S_i(x)=a_i+b_it+c_it^2+d_it^3.$

Коэффициенты имеют вид

$a_i=y_i,$

$b_i=\frac{y_{i+1}-y_i}{h_i}-\frac{h_i}{6}(2M_i+M_{i+1}),$

$c_i=\frac{M_i}{2},$

$d_i=\frac{M_{i+1}-M_i}{6h_i}.$

Эта форма удобна для программной реализации. После построения сплайна значение $S(x)$ вычисляется по коэффициентам только одного промежутка.

Численный пример

Рассмотрим данные

$x_i$	$1$	$2$	$3$	$4$	$5$	$6$
$y_i$	$1.0002$	$1.0341$	$0.6$	$0.40105$	$0.1$	$0.23975$

Шаги сетки одинаковы:

$h_i=1.$

Поэтому внутренние уравнения упрощаются:

$M_{i-1}+4M_i+M_{i+1}=6(y_{i+1}-2y_i+y_{i-1}).$

С учётом $M_0=M_5=0$ получаем систему

$\begin{pmatrix}4&1&0&0\\1&4&1&0\\0&1&4&1\\0&0&1&4\end{pmatrix}\begin{pmatrix}M_1\\M_2\\M_3\\M_4\end{pmatrix}=\begin{pmatrix}-2.808\\1.4109\\-0.6126\\2.6448\end{pmatrix}.$

Метод прогонки даёт

$M_0=0,\quad M_1\approx-0.878022488,\quad M_2\approx0.704089952,\quad M_3\approx-0.527437321,\quad M_4\approx0.793059330,\quad M_5=0.$

Коэффициенты локальных многочленов:

Промежуток	$a_i$	$b_i$	$c_i$	$d_i$
$[1,2]$	$1.000200000$	$0.180237081$	$0$	$-0.146337081$
$[2,3]$	$1.034100000$	$-0.258774163$	$-0.439011244$	$0.263685407$
$[3,4]$	$0.600000000$	$-0.345740431$	$0.352044976$	$-0.205254545$
$[4,5]$	$0.401050000$	$-0.257414115$	$-0.263718660$	$0.220082775$
$[5,6]$	$0.100000000$	$-0.124603110$	$0.396529665$	$-0.132176555$

Например, на первом промежутке

$S_0(x)=1.0002+0.180237081(x-1)-0.146337081(x-1)^3.$

На втором промежутке

$S_1(x)=1.0341-0.258774163(x-2)-0.439011244(x-2)^2+0.263685407(x-2)^3.$

Остальные участки строятся аналогично по таблице коэффициентов.

Для проверки рассмотрим узел $x=3$ . В нём выполняются условия

$S_1(3)=S_2(3)=0.6,$

$S_1'(3)=S_2'(3)\approx-0.345740431,$

$S_1''(3)=S_2''(3)\approx0.704089952.$

На концах отрезка

$S_0''(1)=0,\qquad S_4''(6)=0.$

Следовательно, построенная функция интерполирует исходные данные, принадлежит классу $C^2$ и удовлетворяет натуральным граничным условиям.

Изображение:Natural cubic spline example.png

Натуральный кубический сплайн и узлы интерполяции из численного примера.

Вариационное свойство

Натуральный кубический сплайн можно определить не только через кусочные многочлены и граничные условия. Он обладает важным вариационным свойством.

Среди достаточно гладких функций $g$ , проходящих через те же узлы,

$g(x_i)=y_i,$

натуральный сплайн минимизирует функционал

$J(g)=\int_a^b\bigl(g''(x)\bigr)^2\,dx.$

В механической интерпретации эта величина соответствует энергии изгиба тонкого упругого стержня. Поэтому натуральный сплайн иногда называют интерполянтом с наименьшей энергией изгиба.^[1]

Это свойство не означает, что график сплайна имеет минимальную длину или не способен образовывать выбросы. Минимизируется именно интеграл квадрата второй производной.

Идея доказательства

Пусть $S$ — натуральный кубический сплайн, а $g$ — другой достаточно гладкий интерполянт. Представим

$g=S+v,\qquad v(x_i)=0.$

Тогда

$J(g)=\int_a^b\bigl(S''(x)+v''(x)\bigr)^2\,dx.$

После раскрытия квадрата получаем

$J(g)=J(S)+2\int_a^bS''(x)v''(x)\,dx+\int_a^b\bigl(v''(x)\bigr)^2\,dx.$

На каждом промежутке третья производная $S'''$ постоянна. После интегрирования по частям с учётом условий $v(x_i)=0$ , непрерывности $S''$ и натуральных граничных условий $S''(a)=S''(b)=0$ получаем

$\int_a^bS''(x)v''(x)\,dx=0.$

Следовательно,

$J(g)=J(S)+\int_a^b\bigl(v''(x)\bigr)^2\,dx\geq J(S).$

Равенство возможно только при $v\equiv0$ . Поэтому минимум единственен.

Точность интерполяции

Пусть

$h=\max_i h_i.$

Погрешность зависит не только от гладкости исходной функции и размера шага, но и от выбранных граничных условий.

Если $f\in C^4[a,b]$ и натуральные граничные условия согласованы с исходной функцией,

$f''(a)=f''(b)=0,$

то для достаточно регулярной сетки выполняется равномерная оценка

$\lVert f-S\rVert_\infty=O(h^4).$

Для производных при аналогичных условиях характерны оценки

$\lVert f^{(k)}-S^{(k)}\rVert_\infty=O(h^{4-k}),\qquad k=0,1,2.$

Здесь $\lVert\cdot\rVert_\infty$ обозначает равномерную норму.

Если $f''(a)$ или $f''(b)$ не равны нулю, натуральные условия искусственно изменяют кривизну у концов. В общем случае глобальный порядок сходимости в равномерной норме может снижаться до $O(h^2)$ . При этом во внутренней части отрезка, вдали от границ, сохраняется более высокая точность порядка $O(h^4)$ .^[1]^[1]

Например, для функции $f(x)=x^2$ вторая производная постоянна: $f''(x)=2$ . Натуральные условия требуют нулевой второй производной на концах и поэтому не согласованы с исходной функцией. Сплайн точно проходит через узлы, но наибольшая ошибка возникает около границ.

Изображение:Natural spline boundary effect.png

Абсолютная ошибка натурального сплайна для функции $f(x)=x^2$ . Граничные условия не согласованы с постоянной второй производной исходной функции.

Таким образом, граничные условия следует рассматривать как часть модели, а не только как техническое дополнение к системе уравнений.

Ограничения метода

Выбросы между узлами

Непрерывность двух производных не гарантирует сохранения формы данных.

Даже если значения $y_i$ монотонно возрастают или убывают, обычный кубический сплайн может образовать локальный максимум или минимум между узлами. Он также не обязан:

сохранять выпуклость;
оставаться между соседними значениями;
сохранять неотрицательность;
избегать колебаний около резких изменений данных.

Если сохранение монотонности важнее непрерывности второй производной, применяют формосохраняющую интерполяцию, например метод Фритча — Карлсона или PCHIP.^[1]

Такие интерполянты обычно принадлежат классу $C^1$ , а не $C^2$ . Более слабая гладкость является платой за сохранение формы данных.

Шумные данные

Интерполяционный сплайн проходит точно через каждую точку. Если наблюдения содержат шум, точное прохождение через них может быть нежелательным.

В этом случае используют сглаживающие сплайны. Они находят компромисс между близостью к данным и гладкостью функции, например минимизируя выражение вида

$\sum_i\bigl(y_i-S(x_i)\bigr)^2+\lambda\int_a^b\bigl(S''(x)\bigr)^2\,dx,$

где $\lambda$ — параметр регуляризации, управляющий степенью сглаживания.

При малых значениях $\lambda$ основной приоритет отдаётся близости к наблюдениям. При увеличении $\lambda$ функция становится более гладкой, но может сильнее отклоняться от данных.

Экстраполяция

Интерполяционная задача определяет функцию только на отрезке $[a,b]$ . Значения за пределами этого отрезка зависят от отдельного правила экстраполяции. Продолжение крайнего кубического участка не следует путать с утверждением о поведении исходной функции вне области наблюдений.

Даже натуральные условия $S''(a)=S''(b)=0$ не означают, что продолжение сплайна за границы будет линейным.

Неравномерные сетки

Теоретически система имеет единственное решение для любых положительных $h_i$ . Однако при очень большом различии между минимальным и максимальным шагами масштабы коэффициентов системы могут существенно различаться.

В численной реализации полезно:

хранить вычисления в формате с плавающей точкой двойной точности;
избегать почти совпадающих узлов;
при очень больших или малых значениях $x_i$ предварительно масштабировать аргумент;
проверять строгое возрастание массива узлов;
учитывать обусловленность и численную устойчивость вычислений.

Как выбрать метод интерполяции

Свойства задачи	Подходящий метод	Причина
Требуется простая и быстрая интерполяция	Линейная интерполяция	Минимальная вычислительная сложность, но есть изломы
Нужна функция класса $C^2$ , производные на концах неизвестны	Натуральный кубический сплайн	Простые граничные условия и вариационная интерпретация
Известны производные на концах	Закреплённый кубический сплайн	Используется дополнительная информация об исходной функции
Данные периодические	Периодический сплайн	Значения и производные согласуются на концах периода
Нет содержательных граничных условий	Сплайн not-a-knot	Распространённый универсальный вариант
Важна монотонность и отсутствие выбросов	PCHIP, метод Фритча — Карлсона	Форма данных сохраняется ценой перехода от $C^2$ к $C^1$
Данные содержат шум	Сглаживающий сплайн	Не требуется точное прохождение через каждое наблюдение
Нужна интерполяция многомерных данных	Радиальные базисные функции, тензорные сплайны или другие методы многомерной интерполяции	Обычный одномерный кубический сплайн непосредственно не применим

Универсально лучшего метода не существует. Выбор зависит от того, какие свойства важнее: гладкость, локальность, сохранение формы, точность на границах или устойчивость к шуму.

Программная реализация

В библиотеке SciPy для языка Python натуральный кубический сплайн можно построить следующим образом:

import numpy as np
from scipy.interpolate import CubicSpline

x = np.array([1, 2, 3, 4, 5, 6], dtype=float)
y = np.array([1.0002, 1.0341, 0.6, 0.40105, 0.1, 0.23975])

spline = CubicSpline(x, y, bc_type="natural")

x_query = np.linspace(x[0], x[-1], 200)
y_query = spline(x_query)

first_derivative = spline(x_query, 1)
second_derivative = spline(x_query, 2)

По умолчанию CubicSpline использует условие not-a-knot, поэтому параметр bc_type="natural" нельзя опускать, если требуется именно натуральный сплайн.

Для данных, форму которых важно сохранить, результат можно сравнить с PCHIP:

from scipy.interpolate import PchipInterpolator

shape_preserving = PchipInterpolator(x, y)

Различие между результатами особенно заметно около резких изменений и на наборах данных, где обычный кубический сплайн образует выбросы.

После построения сплайна:

хранение коэффициентов требует $O(n)$ памяти;
построение требует $O(n)$ операций;
поиск нужного промежутка методом двоичного поиска требует $O(\log n)$ ;
если точки запроса отсортированы, все промежутки можно обработать одним последовательным проходом.

Связь с современными методами машинного обучения

Сплайны остаются не только классическим инструментом численного анализа. Их локальность, гладкость и возможность аналитически вычислять производные используются в современных моделях машинного обучения.

Нерегулярные временные ряды

В работе о нейронных управляемых дифференциальных уравнениях дискретные наблюдения нерегулярного временного ряда преобразуются в непрерывную траекторию с помощью натурального кубического сплайна.^[1]

Пусть наблюдения имеют вид

$(t_0,x_0),\dots,(t_n,x_n).$

Сплайн задаёт дифференцируемую траекторию $X(t)$ , проходящую через эти наблюдения. Затем эта траектория управляет скрытым состоянием модели:

$z_t=z_{t_0}+\int_{t_0}^{t}f_\theta(z_s)\,dX_s.$

В этой конструкции сплайн не является обучаемой моделью. Он служит способом преобразования дискретных данных в гладкий непрерывный сигнал, который используется внутри дифференциального уравнения.

Выбор интерполяции задаёт предположение о поведении данных между наблюдениями. Натуральный кубический сплайн предполагает достаточно гладкую траекторию, что подходит не для каждого процесса. Для онлайн-прогнозирования, скачкообразных сигналов и причинных моделей могут потребоваться другие схемы интерполяции.

Kolmogorov — Arnold Networks

В предложенной в 2024 году архитектуре Kolmogorov — Arnold Networks, или KAN, обучаемые одномерные функции на рёбрах сети параметризуются с помощью B-сплайнов.^[1]

Обычный слой нейронной сети использует числовые веса и фиксированную нелинейную функцию. В исходной архитектуре KAN вместо отдельного числового веса на ребре используется обучаемая одномерная функция.

Связь с интерполяционными сплайнами здесь концептуальная:

функция собирается из локальных полиномиальных участков;
гладкость контролируется порядком сплайна;
положение узлов влияет на выразительность представления;
значения базисных функций вычисляются локально.

При этом KAN не строит натуральный интерполяционный сплайн по фиксированной таблице. Коэффициенты базисных функций обучаются по данным вместе с остальными параметрами сети, а сама функция обычно представляется в базисе B-сплайнов.

В работе Free-Knots KAN рассматривается влияние количества и расположения узлов B-сплайнов на устойчивость обучения. Авторы предлагают обучаемые положения узлов и стратегию, сохраняющую непрерывность класса $C^2$ .^[1]

Эти исследования показывают, что классические вопросы теории сплайнов — выбор узлов, гладкость, локальность и число степеней свободы — остаются важными при разработке современных архитектур глубокого обучения.

Алгоритм построения

Построение натурального кубического сплайна можно представить следующей последовательностью действий:

проверить, что узлы строго возрастают: $x_0<x_1<\dots<x_n$ ;
вычислить шаги $h_i=x_{i+1}-x_i$ ;
вычислить правые части $r_i=6\left(\frac{y_{i+1}-y_i}{h_i}-\frac{y_i-y_{i-1}}{h_{i-1}}\right)$ ;
составить трёхдиагональную систему для $M_1,\dots,M_{n-1}$ ;
решить систему методом прогонки;
добавить граничные значения $M_0=M_n=0$ ;
вычислить коэффициенты $a_i,\;b_i,\;c_i,\;d_i$ ;
для заданного $x$ найти промежуток $[x_i,x_{i+1}]$ ;
вычислить значение соответствующего локального многочлена.

Перед применением метода следует отдельно решить, соответствуют ли натуральные граничные условия смыслу задачи. Этот выбор нельзя определить только по алгоритмическим соображениям.

См. также

Примечания

Литература

de Boor C. A Practical Guide to Splines. — Revised Edition. — New York: Springer, 2001. — 348 с. — ISBN 978-0-387-95366-3

Birkhoff G., de Boor C. Journal of Mathematics and Mechanics. — 1964. — Т. 13, № 5. — С. 827–835.

Atkinson K. E. SIAM Journal on Numerical Analysis. — 1968. — Т. 5, № 1. — С. 89–101.

Fritsch F. N., Carlson R. E. SIAM Journal on Numerical Analysis. — 1980. — Т. 17, № 2. — С. 238–246.

Kidger P., Morrill J., Foster J., Lyons T. Advances in Neural Information Processing Systems. — 2020. — Т. 33.

Liu Z., Wang Y., Vaidya S. et al. arXiv. — 2024.

Zheng L. N., Zhang W. E., Yue L. et al. arXiv. — 2025.

Ссылки

CubicSpline в SciPy — построение кусочно-кубического интерполянта класса $C^2$ .
make_interp_spline в SciPy — построение интерполирующего B-сплайна.
PchipInterpolator в SciPy — формосохраняющая кусочно-кубическая интерполяция.

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%98%D0%BD%D1%82%D0%B5%D1%80%D0%BF%D0%BE%D0%BB%D1%8F%D1%86%D0%B8%D1%8F_%D0%BA%D1%83%D0%B1%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%BC%D0%B8_%D1%81%D0%BF%D0%BB%D0%B0%D0%B9%D0%BD%D0%B0%D0%BC%D0%B8»

Категории: Интерполяция | Численные методы | Энциклопедия анализа данных | Популярные и обзорные статьи