Стохастический процесс

Материал из MachineLearning.

Версия от 15:00, 18 июля 2026; Denis Kistanov (Обсуждение | вклад)

(разн.) ← Предыдущая | Текущая версия (разн.) | Следующая → (разн.)

Стохастический процесс (случайный процесс; англ. stochastic process) — семейство случайных величин $X=(X_t)_{t\in T}$ , заданных на одном вероятностном пространстве и принимающих значения в общем пространстве состояний. Индекс $t$ часто интерпретируется как время, однако им также может быть пространственная координата, вершина графа, масштаб или иной параметр. Стохастические процессы служат математическими моделями систем, эволюция или наблюдения которых содержат случайность: временных рядов, очередей, популяций, сигналов, траекторий частиц, финансовых цен, сетевого трафика и скрытых состояний в моделях машинного обучения.^[1]

При фиксированном $t$ величина $X_t$ описывает случайное состояние системы, а при фиксированном элементарном исходе $\omega$ функция $t\mapsto X_t(\omega)$ называется траекторией, реализацией или выборочной функцией процесса. Тем самым один процесс допускает два взаимодополняющих взгляда: как совокупность распределений в разные моменты и как случайно выбранную целую траекторию. В отличие от одной случайной величины, существенна зависимость между значениями при разных индексах.

Содержание

1 История
2 Основная идея
- 2.1 Классификация
3 Математические основы
4 Основные классы и примеры
5 Стохастическое исчисление и диффузии
- 5.1 Интеграл Ито
- 5.2 Стохастические дифференциальные уравнения
6 Моделирование, оценивание и диагностика
7 Трудности и ограничения
8 Современные направления исследований
9 Применения
10 См. также
11 Примечания
12 Литература
13 Ссылки

Теория стохастических процессов объединяет теорию вероятностей, математическую статистику, функциональный анализ, дифференциальные уравнения и эргодическую теорию. В зависимости от задачи изучают конечномерные распределения, регулярность траекторий, времена достижения, стационарность, спектр, предельное поведение, фильтрацию скрытого состояния или управление случайной системой.

История

Историческими источниками теории были задачи о случайных блужданиях, страховых рисках, демографии, ошибках измерения и флуктуациях физических систем. В 1827 году ботаник Роберт Броун наблюдал нерегулярное движение микроскопических частиц в жидкости и опубликовал подробное описание в 1828 году.^[1] В диссертации 1900 года Луи Башелье применил непрерывную случайную модель к колебаниям биржевых цен, предвосхитив использование броуновского движения в математических финансах.^[1]

В 1905 году Альберт Эйнштейн вывел количественную теорию броуновского движения из молекулярно-кинетических представлений и связал средний квадрат смещения с коэффициентом диффузии.^[1] В 1906 году Андрей Андреевич Марков показал, что закон больших чисел можно получить для некоторых зависимых величин, связанных в цепь; из этой работы выросла теория марковских цепей.^[1]

Норберт Винер в 1923 году построил меру на пространстве непрерывных функций, дав строгую математическую модель броуновского движения.^[1] Андрей Николаевич Колмогоров в 1931 году связал переходные вероятности марковских процессов с прямым и обратным дифференциальными уравнениями,^[1] а в монографии 1933 года сформулировал меро-теоретическую аксиоматику вероятности и теорему существования процесса по согласованным конечномерным распределениям.^[1] Александр Яковлевич Хинчин в 1934 году развил корреляционную и спектральную теорию стационарных процессов.^[1]

В 1930—1940-х годах Поль Леви систематизировал процессы с независимыми приращениями, а мартингалы стали одним из центральных языков анализа случайной эволюции. Киёси Ито в 1944 году определил стохастический интеграл, положив начало исчислению Ито и современной теории стохастических дифференциальных уравнений.^[1] Монография Джозефа Дуба 1953 года объединила процессы с дискретным и непрерывным временем, условные ожидания, мартингалы, марковские и стационарные процессы в единой меро-теоретической схеме.^[1]

Во второй половине XX века теория расширилась за счёт стохастической фильтрации, случайных полей, точечных процессов, процессов взаимодействующих частиц, стохастических уравнений в частных производных и численных методов. В статистике и машинном обучении особое значение получили модели пространства состояний, скрытые марковские модели и гауссовские процессы; в XXI веке стохастические дифференциальные уравнения используются также в непрерывновременных нейросетевых и диффузионных генеративных моделях.

Основная идея

Детерминированная модель назначает каждому моменту единственное состояние. Стохастическая модель назначает распределение над возможными траекториями. Например, формула $x(t)=x_0+vt$ описывает равномерное движение, тогда как процесс $X_t=x_0+vt+\sigma W_t$ добавляет накопленное случайное возмущение $W_t$ . Параметр $\sigma$ задаёт масштаб неопределённости, но зависимость во времени определяется всей совместной структурой процесса, а не только дисперсией каждого $X_t$ .

Процесс не следует отождествлять с одной наблюдаемой последовательностью. Процесс — вероятностная модель ансамбля возможных реализаций; временной ряд — одна конечная, часто зашумлённая и нерегулярно измеренная реализация. Статистический вывод восстанавливает свойства процесса по ограниченным наблюдениям и потому требует предположений, например стационарности, эргодичности, марковости или параметрической формы.

Классификация

Основные типы различают по нескольким признакам.

По множеству индексов. При $T={\bf N}$ или ${\bf Z}$ время дискретно; при $T=[0,\infty)$ или ${\bf R}$ — непрерывно. При многомерном индексе получают случайное поле.
По пространству состояний. Оно может быть конечным или счётным, евклидовым, функциональным, множеством графов, мер или распределений в смысле обобщённых функций.
По структуре зависимости. Выделяют процессы с независимыми приращениями, марковские процессы, мартингалы, стационарные и эргодические процессы, процессы с долгой памятью.
По траекториям. Траектории бывают дискретными, непрерывными, кусочно-постоянными, абсолютно непрерывными или càdlàg, то есть непрерывными справа и имеющими пределы слева.
По закону. Важны гауссовские, пуассоновские, ветвящиеся, точечные, процессы восстановления и процессы Леви.

Эти классы пересекаются. Например, винеровский процесс одновременно гауссовский, марковский, имеет независимые стационарные приращения и является мартингалом, но сам не стационарен.

Математические основы

Определение и траектории

Пусть $(\Omega,{\cal F},P)$ — вероятностное пространство, $(S,{\cal S})$ — измеримое пространство состояний, а $T$ — множество индексов. Стохастический процесс — семейство измеримых отображений

$X_t:(\Omega,{\cal F})\longrightarrow(S,{\cal S}),\qquad t\in T.$

Эквивалентно, при подходящей сигма-алгебре на пространстве функций процесс можно рассматривать как случайный элемент $X:\Omega\longrightarrow S^T$ . Для несчётного $T$ измеримость отображения в функциональное пространство и свойства траекторий требуют отдельного внимания: координатная сигма-алгебра сама по себе не гарантирует непрерывности или измеримости траекторий.

Два процесса называются модификациями, если для каждого фиксированного $t$ их значения совпадают почти наверное. Они неразличимы, если с вероятностью единица совпадают одновременно для всех $t$ . При несчётном множестве индексов первое свойство слабее второго. В прикладных моделях обычно выбирают регулярную модификацию — например, непрерывную или càdlàg.

Конечномерные распределения

Для любых $t_1,\ldots,t_n\in T$ совместный закон вектора

$(X_{t_1},\ldots,X_{t_n})$

называется конечномерным распределением процесса. Совокупность всех таких законов полностью определяет распределение процесса на цилиндрической сигма-алгебре. Если задано семейство мер $\mu_{t_1,\ldots,t_n}$ , инвариантное относительно перестановки координат и согласованное при удалении координат, то при стандартных условиях теорема Колмогорова о продолжении гарантирует существование процесса с этими конечномерными распределениями.^[1]

Согласованность означает, в частности,

$\mu_{t_1,\ldots,t_n}(A_1\mathbin{\times}\cdots\mathbin{\times}A_{n-1}\mathbin{\times}S)=\mu_{t_1,\ldots,t_{n-1}}(A_1\mathbin{\times}\cdots\mathbin{\times}A_{n-1}).$

Теорема существования не утверждает, что траектории обладают удобной регулярностью. Один из стандартных критериев непрерывности: если для некоторых $\alpha,\beta,C>0$

$E|X_t-X_s|^\alpha\leq C|t-s|^{1+\beta},$

то процесс с вещественным параметром имеет непрерывную модификацию, траектории которой локально гёльдеровы любого порядка меньше $\beta/\alpha$ . Это условие достаточное, но не необходимое.^[1]

Среднее, ковариация и условные распределения

Для вещественного процесса с конечными вторыми моментами определяют функцию среднего и ковариационную функцию

$m(t)=E X_t,\qquad K(s,t)={\rm Cov}(X_s,X_t)=E[(X_s-m(s))(X_t-m(t))].$

Ковариационная функция симметрична и неотрицательно определена:

$\sum_{i=1}^{n}\sum_{j=1}^{n}a_i a_j K(t_i,t_j)\geq0.$

Для гауссовского процесса функции $m$ и $K$ полностью определяют все конечномерные распределения. Для негауссовского процесса совпадение средних и ковариаций, вообще говоря, не означает совпадения законов: различаться могут асимметрия, хвосты и зависимости высших порядков.

Информация, накопленная к моменту $t$ , формализуется фильтрацией $({\cal F}_t)$ , то есть возрастающим семейством сигма-алгебр. Процесс называется адаптированным, если $X_t$ измерима относительно ${\cal F}_t$ . Это исключает использование будущей информации при определении текущего состояния или стратегии.

Стационарность, корреляция и спектр

Процесс строго стационарен, если для любых $n$ , моментов $t_1,\ldots,t_n$ и сдвига $h$ векторы

$(X_{t_1},\ldots,X_{t_n})\quad\hbox{и}\quad(X_{t_1+h},\ldots,X_{t_n+h})$

имеют одинаковое распределение. Процесс стационарен в широком смысле, если $m(t)=m$ , а ковариация зависит только от лага:

$K(s,t)=R(t-s).$

Строгая стационарность при конечных вторых моментах влечёт стационарность в широком смысле, но обратное верно не всегда; для гауссовских процессов оно верно. Нормированная функция $\rho(h)=R(h)/R(0)$ называется автокорреляционной функцией.

По теореме Бохнера непрерывная неотрицательно определённая функция $R$ допускает спектральное представление

$R(h)=\int_{-\infty}^{\infty}e^{ih\lambda}\,F(d\lambda),$

где $F$ — конечная неотрицательная спектральная мера. Если она имеет плотность $f$ , то $f$ называют спектральной плотностью. Эта связь лежит в основе спектрального анализа стационарных процессов и теоремы Винера — Хинчина.^[1]

Эргодичность означает, в грубой интуитивной формулировке, возможность восстанавливать ансамблевые характеристики по одной достаточно длинной траектории. Для стационарного эргодического процесса и интегрируемой функции $g$ временные средние при стандартных условиях удовлетворяют

$\frac1n\sum_{t=1}^{n}g(X_t)\longrightarrow E g(X_0)$

почти наверное. Стационарность сама по себе эргодичность не гарантирует: смесь нескольких стационарных режимов может сохранять распределение при сдвиге, но одна траектория остаётся в случайно выбранном режиме.

Марковское свойство и полугруппа

Адаптированный процесс является марковским, если условное распределение будущего при известном настоящем не зависит от более далёкого прошлого. Для однородного по времени процесса это записывают как

$P(X_{t+s}\in A\mid{\cal F}_t)=P_s(X_t,A),$

где $P_s(x,A)$ — переходное ядро. Переходные ядра удовлетворяют уравнению Чепмена — Колмогорова

$P_{t+s}(x,A)=\int_S P_t(x,dy)P_s(y,A).$

На функциях ядро задаёт полугруппу $P_t f(x)=E_x f(X_t)$ с соотношением $P_{t+s}=P_tP_s$ . Инфинитезимальный генератор полугруппы определяется на подходящей области функций пределом

${\cal A}f=\lim_{t\downarrow0}\frac{P_t f-f}{t}.$

Обратное уравнение Колмогорова имеет формальный вид $\partial_t u={\cal A}u$ , а прямое уравнение описывает эволюцию распределения сопряжённым оператором ${\cal A}^*$ . При наличии плотности последнее часто называется уравнением Фоккера — Планка. Связь переходных вероятностей с этими уравнениями была систематически установлена Колмогоровым.^[1]

Мартингалы и моменты остановки

Интегрируемый адаптированный процесс $(M_t)$ называется мартингалом относительно $({\cal F}_t)$ , если для $s\leq t$

$E(M_t\mid{\cal F}_s)=M_s.$

Мартингал моделирует «честную игру»: при всей текущей информации условный прогноз будущего значения равен настоящему. Если вместо равенства стоит $\geq$ или $\leq$ , получают субмартингал или супермартингал. Важны моменты остановки $\tau$ , событие $\{\tau\leq t\}$ для которых известно к моменту $t$ . Теоремы об остановке, неравенства Дуба и сходимость мартингалов дают средства анализа времен достижения, последовательных процедур и стохастических интегралов.^[1]

Более широкий класс семимартингалов допускает разложение на локальный мартингал и процесс конечной вариации. Семимартингалы являются естественными интеграторами классического стохастического исчисления и включают диффузии и многие процессы со скачками.

Типы сходимости

Для процессов различают поточечную сходимость случайных величин, сходимость конечномерных распределений и сходимость законов в функциональном пространстве. Последняя требует не только сходимости конечномерных распределений, но и плотности семейства мер, препятствующей уходу вероятностной массы в слишком нерегулярные траектории. Для непрерывных траекторий обычно используют пространство $C[0,T]$ с равномерной нормой, а для càdlàg-траекторий — пространство Скорохода $D[0,T]$ со специальными топологиями.

Функциональные предельные теоремы сильнее обычных предельных теорем. Например, принцип инвариантности утверждает, что должным образом нормированное случайное блуждание сходится по распределению как случайная функция к винеровскому процессу. Такое приближение объясняет универсальность диффузионных моделей, но не означает равенства дискретной и непрерывной моделей при конечном масштабе.

Основные классы и примеры

Случайное блуждание

Пусть $\xi_1,\xi_2,\ldots$ — независимые одинаково распределённые случайные величины. Процесс

$S_n=S_0+\sum_{k=1}^{n}\xi_k$

называется случайным блужданием. При $P(\xi_k=1)=P(\xi_k=-1)=1/2$ получают простое симметричное блуждание. Оно служит базовой моделью накопления независимых возмущений, а после масштабирования приводит к броуновскому движению.

Пуассоновский процесс

Пуассоновский процесс $(N_t)_{t\geq0}$ с интенсивностью $\lambda>0$ — считающий процесс с $N_0=0$ , независимыми стационарными приращениями и законом

$P(N_t-N_s=k)=e^{-\lambda(t-s)}\frac{[\lambda(t-s)]^k}{k!},\qquad 0\leq s<t.$

Промежутки между событиями независимы и имеют экспоненциальное распределение с параметром $\lambda$ . Неоднородный пуассоновский процесс допускает интенсивность $\lambda(t)$ , а случайные и зависящие от истории интенсивности приводят к процессам Кокса и самовозбуждающимся процессам Хоукса.

Винеровский процесс

Стандартный винеровский процесс, или математическое броуновское движение, $(W_t)_{t\geq0}$ удовлетворяет условиям: $W_0=0$ , имеет независимые стационарные приращения, $W_t-W_s\sim{\cal N}(0,t-s)$ при $s<t$ и почти наверное непрерывные траектории. Его среднее и ковариация равны

$E W_t=0,\qquad {\rm Cov}(W_s,W_t)=\min(s,t).$

Несмотря на непрерывность, траектории почти наверное нигде не дифференцируемы и имеют бесконечную вариацию на любом невырожденном интервале. Квадратичная вариация на $[0,t]$ равна $t$ ; именно это свойство приводит к дополнительному члену во формуле Ито.^[1]

Гауссовские процессы

Процесс называется гауссовским, если любой конечный вектор $(X_{t_1},\ldots,X_{t_n})$ имеет многомерное нормальное распределение. Его закон задаётся функцией среднего и неотрицательно определённым ядром ковариации. В машинном обучении гауссовский процесс используют как распределение над функциями: после наблюдений условное распределение остаётся гауссовским, что даёт аналитические формулы для регрессии при гауссовском шуме.^[1]

Выбор ковариационного ядра задаёт априорные свойства функций: гладкость, периодичность, характерный масштаб и анизотропию. Не всякая формула является допустимым ядром; матрица $[K(t_i,t_j)]$ должна быть неотрицательно определённой для любого конечного набора точек.

Процесс Орнштейна — Уленбека

Процесс Орнштейна — Уленбека является решением линейного стохастического дифференциального уравнения

$dX_t=\theta(\mu-X_t)dt+\sigma dW_t,\qquad \theta>0.$

Дрейф возвращает состояние к уровню $\mu$ , а винеровский член непрерывно вносит шум. При стационарном начальном распределении процесс гауссовский и имеет

$E X_t=\mu,\qquad {\rm Cov}(X_s,X_t)=\frac{\sigma^2}{2\theta}e^{-\theta|t-s|}.$

Это простейшая непрерывновременная модель возврата к среднему; она используется в физике, финансах, биологии и как компонент гауссовских и пространственно-временных моделей.

Марковские цепи и скрытые состояния

В дискретном времени и конечном пространстве состояний марковская цепь задаётся матрицей переходов $P=(p_{ij})$ , где $p_{ij}=P(X_{n+1}=j\mid X_n=i)$ . Распределение $\pi$ стационарно, если $\pi P=\pi$ . Неприводимость и апериодичность конечной цепи обеспечивают единственность стационарного распределения и сходимость к нему.

В скрытой марковской модели марковская цепь $X_t$ непосредственно не наблюдается, а наблюдения $Y_t$ условно независимы при заданных состояниях. Алгоритм прямого-обратного прохода вычисляет сглаженные вероятности состояний, алгоритм Витерби — наиболее вероятную последовательность, а алгоритм Баума — Уэлча оценивает параметры как частный случай EM-алгоритма. Такие модели долгое время были основным вероятностным аппаратом распознавания речи и применяются в биоинформатике и анализе последовательностей.^[1]

Процессы Леви, восстановления и точечные процессы

Процесс Леви имеет независимые стационарные приращения, начинается в нуле и непрерывен по вероятности. Он обобщает винеровский и пуассоновский процессы, допуская как непрерывную гауссовскую часть, так и скачки. Его одномерные распределения бесконечно делимы, а структура задаётся триплетом Леви — Хинчина.

В процессе восстановления моменты событий образуются суммами независимых положительных времен ожидания. Пуассоновский процесс является частным случаем с экспоненциальными ожиданиями. Точечный процесс моделирует случайное локально конечное множество событий во времени или пространстве. У процесса Хоукса каждое событие временно повышает условную интенсивность будущих событий; такая кластеризация применяется для землетрясений, транзакций и сетевых событий.^[1]

Ветвящиеся процессы и случайные поля

Ветвящиеся процессы описывают популяции, в которых особи независимо порождают случайное число потомков. В процессе Гальтона — Ватсона критическое значение среднего числа потомков отделяет почти неизбежное вымирание от положительной вероятности неограниченного роста.

Случайное поле $(X_t)_{t\in T}$ имеет многомерный индекс, например $t\in{\bf R}^d$ . Оно моделирует изображения, рельеф, температуру, деформации и пространственную зависимость. Марковские случайные поля задают локальные условные зависимости на графе; гауссовские случайные поля удобны для пространственной интерполяции и решения обратных задач.

Стохастическое исчисление и диффузии

Интеграл Ито

Обычный интеграл Римана — Стилтьеса по траектории винеровского процесса, вообще говоря, не определён из-за её бесконечной вариации. Для предсказуемого квадратично интегрируемого процесса $H_t$ интеграл Ито строят как предел сумм, где значение подынтегрального процесса берётся в левом конце интервала:

$\int_0^t H_s\,dW_s=\lim_{|\Pi|\longrightarrow0}\sum_i H_{t_i}(W_{t_{i+1}}-W_{t_i}).$

Предел понимается сначала в среднем квадратичном. Основное равенство — изометрия Ито:

$E\left(\int_0^t H_s\,dW_s\right)^2=E\int_0^t H_s^2\,ds.$

Интеграл Ито является мартингалом при стандартных условиях. Альтернативный интеграл Стратоновича использует симметричные суммы и лучше сохраняет обычные правила дифференцирования, но коэффициент дрейфа при переходе между двумя интерпретациями изменяется.^[1]

Стохастические дифференциальные уравнения

Диффузионный процесс в ${\bf R}^d$ часто задают уравнением Ито

$dX_t=b(X_t,t)dt+\sigma(X_t,t)dW_t.$

Здесь $b$ — коэффициент дрейфа, $\sigma$ — матрица диффузии, а запись означает интегральное равенство

$X_t=X_0+\int_0^t b(X_s,s)ds+\int_0^t\sigma(X_s,s)dW_s.$

Различают сильное решение, построенное на заданном вероятностном пространстве и заданном винеровском процессе, и слабое решение, для которого разрешено выбирать вероятностное пространство вместе с шумом. Локальная липшицевость коэффициентов и условие линейного роста дают стандартные достаточные условия существования и траекторной единственности сильного решения; существуют более слабые результаты, а при нерегулярных коэффициентах единственность может нарушаться.

Для гладкой функции $f(x,t)$ формула Ито имеет вид

$df(X_t,t)=\left(f_t+\sum_i b_i f_i+\frac12\sum_{i,j}(\sigma\sigma^T)_{ij}f_{ij}\right)dt+\sum_{i,k}\sigma_{ik}f_i\,dW_t^k.$

Вторые производные появляются из-за ненулевой квадратичной вариации. Генератор однородной диффузии равен

${\cal A}f(x)=\sum_i b_i(x)f_i(x)+\frac12\sum_{i,j}(\sigma(x)\sigma(x)^T)_{ij}f_{ij}(x).$

Если распределение $X_t$ имеет гладкую плотность $p(x,t)$ , то она формально удовлетворяет уравнению Фоккера — Планка

$\frac{\partial p}{\partial t}=-\sum_i\frac{\partial}{\partial x_i}(b_i p)+\frac12\sum_{i,j}\frac{\partial^2}{\partial x_i\partial x_j}[(\sigma\sigma^T)_{ij}p].$

Связь между стохастическим представлением и дифференциальными уравнениями позволяет вычислять вероятности выхода и ожидания функционалов траектории методами как вероятностного моделирования, так и численного решения уравнений в частных производных.

Моделирование, оценивание и диагностика

Имитация траекторий

Метод моделирования зависит от класса процесса.

Для конечной марковской цепи на каждом шаге генерируют новое состояние из строки матрицы переходов.
Для пуассоновского и более общих событийных процессов моделируют времена ожидания или применяют прореживание по верхней границе интенсивности.
Для гауссовского процесса на конечной сетке генерируют многомерный нормальный вектор с заданной ковариационной матрицей; прямое разложение плотной матрицы требует кубического времени по числу точек.
Для химической кинетики алгоритм Гиллеспи генерирует точные по закону времена и типы реакций в модели непрерывновременной марковской цепи.^[1]
Для стохастического дифференциального уравнения простейшая схема Эйлера — Маруямы имеет вид

$X_{n+1}=X_n+b(X_n,t_n)\Delta t+\sigma(X_n,t_n)\sqrt{\Delta t}\,Z_n,\qquad Z_n\sim{\cal N}(0,I).$

При достаточно регулярных коэффициентах типичный сильный порядок этой схемы равен $1/2$ , а слабый — $1$ . Сильная ошибка сравнивает приближённую и точную траектории на одном шуме, слабая — ожидания тестовых функций. Для жёстких, вырожденных, отражённых или многомасштабных систем требуются специальные методы; уменьшение шага необходимо проверять экспериментом сходимости.^[1]

Оценивание и фильтрация

Параметры процесса оценивают методом максимального правдоподобия, методом моментов, обобщённым методом моментов, байесовскими методами или по контрастам, построенным из переходных плотностей и спектра. Для непрерывновременного процесса, наблюдаемого на дискретной сетке, точная переходная плотность часто неизвестна; тогда используют приближённое правдоподобие, фильтры, частичное наблюдение, методы Монте-Карло или схемы data augmentation.

В модели пространства состояний

$X_t\sim p(x_t\mid x_{t-1}),\qquad Y_t\sim p(y_t\mid x_t)$

скрытый процесс $X_t$ восстанавливают по наблюдениям $Y_{1:t}$ . Фильтрация оценивает $p(x_t\mid y_{1:t})$ , прогноз — будущее состояние, а сглаживание использует также последующие наблюдения. Для линейной гауссовской модели все эти распределения гауссовские и рекурсивно вычисляются фильтром Калмана.^[1] Для нелинейных или негауссовских моделей применяют расширенный и сигма-точечный фильтры, частичные фильтры и другие последовательные методы Монте-Карло; их приближения могут иметь существенное смещение или вырождение весов.

Диагностика модели

Ни один отдельный график или тест не подтверждает адекватность стохастической модели. Обычно совместно проверяют:

соответствие маргинальных распределений, квантилей, экстремумов и длительностей режимов;
автокорреляцию, частную автокорреляцию, спектр и кросс-корреляции;
остатки или инновации: после условного моделирования они не должны сохранять предсказуемую структуру;
стационарность, сезонность, структурные сдвиги и возможные единичные корни;
калибровку вероятностных прогнозов, покрытие предиктивных интервалов и качество вне обучающего периода;
чувствительность к шагу дискретизации, частоте наблюдений, начальному состоянию и априорным предположениям;
воспроизведение содержательно важных статистик в симуляциях из подогнанной модели.

Оценка автокорреляции по короткой траектории имеет большую неопределённость, особенно при медленном смешивании и долгой памяти. Множественное тестирование по многим лагам создаёт ложные обнаружения. Для пространственных процессов аналогичную роль играют вариограмма, пространственные остатки и проверка анизотропии.

Трудности и ограничения

Наблюдаемость и идентифицируемость

Разные процессы могут порождать почти неразличимые данные на доступной сетке наблюдений. Дрейф и диффузию непрерывновременной модели трудно разделить по короткой или редко измеренной траектории; шум измерения может быть спутан с быстрыми изменениями скрытого состояния. Неидентифицируемость не устраняется выбором более сложного алгоритма оптимизации.

Нестационарность и неэргодичность

Реальные системы изменяют режим, тренд, сезонность и механизм генерации данных. Оценки, основанные на стационарности, могут усреднять несовместимые режимы. Даже строго стационарный процесс может быть неэргодическим, поэтому временное среднее одной реализации не обязано оценивать ансамблевое ожидание.

Выбор масштаба и зависимость

Марковское свойство зависит от выбранного состояния: процесс, не являющийся марковским в одной координате, может стать марковским после добавления скрытых переменных. Аналогично, независимость приращений и белый шум часто являются приближениями, справедливыми лишь на определённом временном масштабе. Агрегирование, пропуски и нерегулярная частота наблюдений меняют вид зависимости.

Редкие события и высокая размерность

Вероятности катастроф, первых выходов и экстремальных нагрузок могут определяться областями, почти не встречающимися в обычной симуляции. Наивный метод Монте-Карло тогда требует недостижимого числа траекторий; применяют выборку по значимости, расщепление траекторий и методы больших уклонений, но их эффективность чувствительна к конструкции предложения. В многомерных процессах дополнительно возникают вычислительная сложность ковариационных матриц, вырождение частичных фильтров и трудность оценки зависимостей.

Ошибка модели и численная ошибка

Следует разделять как минимум четыре источника неопределённости: случайность самого процесса, погрешность измерения, статистическую ошибку оценки параметров и ошибку численного приближения. Малая дискретизационная ошибка не делает неверную модель адекватной, а хорошее совпадение нескольких сводных статистик не гарантирует правильного распределения траекторий.

Стохастическая зависимость также не равна причинности. Предсказуемость одного ряда по другому может возникнуть из-за общей скрытой причины, отбора данных или нестационарности; причинные утверждения требуют дополнительных предположений или экспериментального дизайна.

Современные направления исследований

Нерегулярные сигналы и сингулярные уравнения

Теория грубых путей рассматривает дифференциальные уравнения, управляемые очень нерегулярными сигналами, дополняя путь информацией об итерированных интегралах. Она даёт устойчивое, в существенной части детерминированное описание решений и охватывает броуновские и более общие шумы.^[1] Теория регулярностных структур позволяет придавать строгий смысл широкому классу сингулярных нелинейных стохастических уравнений в частных производных, где произведения распределений классически не определены.^[1]

Долгая память и аномальная диффузия

Модели с независимыми приращениями не описывают длительную зависимость. Дробное броуновское движение — гауссовский самоподобный процесс с параметром Хёрста $H\in(0,1)$ и ковариацией

${\rm Cov}(B_s^H,B_t^H)=\frac12(s^{2H}+t^{2H}-|t-s|^{2H}).$

При $H=1/2$ это обычное броуновское движение; при других $H$ приращения зависимы и процесс не является семимартингалом в стандартной фильтрации. Дробные и многомасштабные модели применяются к аномальной диффузии и сигналам с долгой памятью, но оценивание $H$ чувствительно к трендам, конечной длине ряда и шуму.^[1]

Стохастические модели в машинном обучении

Современные исследования объединяют вероятностную структуру с обучаемыми компонентами. Нейронные стохастические дифференциальные уравнения параметризуют дрейф или диффузию нейронными сетями; непрерывновременные модели удобны для нерегулярных рядов и скрытой динамики, но требуют устойчивых численных решателей и контроля идентифицируемости.

В диффузионных генеративных моделях прямой процесс постепенно добавляет шум к данным, а обученная модель приближает обратную динамику. Непрерывновременная формулировка через стохастические дифференциальные уравнения объединяет несколько дискретных диффузионных и score-based конструкций; обратный дрейф зависит от градиента логарифма промежуточной плотности.^[1] Теоретические вопросы включают ошибку оценки score-функции, дискретизацию обратного процесса, вычислительную стоимость генерации и поведение вне распределения обучения.

Высокая размерность и сложная структура

Активно развиваются масштабируемые гауссовские процессы, нелинейная фильтрация, стохастические процессы на графах и многообразиях, высокоразмерные точечные процессы, взаимодействующие системы частиц и стохастическая оптимизация. Общая задача состоит не только в повышении предсказательной точности, но и в сохранении структурных свойств: положительной определённости ковариации, инвариантных мер, ограничений состояния, симметрий и корректной калибровки неопределённости.

Применения

Машинное обучение и анализ данных. Гауссовские процессы задают распределения над функциями, скрытые марковские модели — последовательности скрытых классов, модели пространства состояний — латентную динамику, а диффузионные процессы — механизм генерации сложных данных.
Обработка сигналов и управление. Стохастические модели используются для фильтрации шумных измерений, слежения за объектами, навигации, обнаружения изменений, прогнозирования и оптимального управления.
Физика и химия. Броуновское движение, уравнения Ланжевена, процессы взаимодействующих частиц и стохастические уравнения описывают диффузию, тепловые флуктуации, фазовые переходы и кинетику реакций.
Биология и медицина. Ветвящиеся и популяционные процессы моделируют размножение и эпидемии; процессы рождения и смерти — молекулярные сети; скрытые состояния — последовательности генов и физиологические режимы.
Теория массового обслуживания и надёжность. Считающие процессы описывают поступления заявок и отказы, процессы восстановления — ремонты, а марковские и регенерирующие модели — загрузку и время ожидания.
Финансы и страхование. Диффузии и процессы со скачками моделируют цены и процентные ставки, считающие процессы — убытки и дефолты, а мартингальная теория лежит в основе безарбитражного оценивания производных инструментов.
Геофизика, климат и телекоммуникации. Пространственно-временные поля, процессы экстремумов и самовозбуждающиеся процессы применяют к погоде, землетрясениям, гидрологии, трафику и отказам сетей.

Во всех областях интерпретация параметров и область применимости зависят от масштаба наблюдений и механизма получения данных. Одинаковая формальная модель может быть полезной эффективной аппроксимацией в одной задаче и неверной в другой.

См. также

Примечания

Литература

Doob, J. L. Stochastic Processes. — New York: John Wiley & Sons, 1953. — ISBN 978-0-471-21813-5
Kallenberg, O. Foundations of Modern Probability. — 3-е изд.. — Cham: Springer, 2021. — ISBN 978-3-030-61870-4
Karatzas, I.; Shreve, S. E. Brownian Motion and Stochastic Calculus. — 2-е изд.. — New York: Springer, 1991. — ISBN 978-0-387-97655-6
Çinlar, E. Probability and Stochastics. — New York: Springer, 2011. — ISBN 978-0-387-87858-4
Pavliotis, G. A. Stochastic Processes and Applications: Diffusion Processes, the Fokker–Planck and Langevin Equations. — New York: Springer, 2014. — ISBN 978-1-4939-1322-0
Kloeden, P. E.; Platen, E. Numerical Solution of Stochastic Differential Equations. — Berlin: Springer, 1992. — ISBN 978-3-540-54062-5
Rasmussen, C. E.; Williams, C. K. I. Gaussian Processes for Machine Learning. — Cambridge, MA: MIT Press, 2006. — ISBN 978-0-262-18253-9

Ссылки

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%A1%D1%82%D0%BE%D1%85%D0%B0%D1%81%D1%82%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B8%D0%B9_%D0%BF%D1%80%D0%BE%D1%86%D0%B5%D1%81%D1%81»

Категории: Теория вероятностей | Случайные процессы | Анализ временных рядов | Энциклопедия анализа данных