Винеровский процесс

Материал из MachineLearning.

(Различия между версиями)

Текущая версия

Статья написана с использованием LLM ChatGPT (GPT-5.6 Sol) и проверена участником Aliia Latipova 21:00, 18 июля 2026 (MSD)

Содержание

1 Определение и аксиоматика
2 Математические свойства
3 Связь со стохастическим исчислением
4 Роль в машинном обучении
5 Сравнение с другими случайными процессами
6 Ограничения и интерпретация
7 Литература

Определение и аксиоматика

Винеровский процесс (часто называемый броуновским движением) является центральным объектом теории случайных процессов и стохастического анализа. Это гауссовский процесс с непрерывными траекториями, который служит математической моделью броуновского движения физических частиц и строительным блоком для диффузионных моделей в машинном обучении.

Стандартный винеровский процесс $\{W_t, t \ge 0\}$ определяется как случайный процесс, удовлетворяющий следующим аксиомам:

Начальное условие: $W_0 = 0$ почти наверное (п.н.).
Гауссовость и моменты: Для любых $0 \le s < t$ приращение $W_t - W_s$ имеет нормальное распределение с нулевым математическим ожиданием и дисперсией $t - s$ :

$W_t - W_s \sim \mathcal{N}(0, t-s).$

Независимость приращений: Для любых непересекающихся интервалов $[s_1, t_1], [s_2, t_2], \ldots, [s_n, t_n]$ соответствующие приращения $W_{t_i} - W_{s_i}$ статистически независимы.
Непрерывность траекторий: Почти все выборочные траектории $t \mapsto W_t$ непрерывны на $[0, \infty)$ .

Эквивалентное задание — через ковариационную функцию. Для стандартного винеровского процесса:

$\mathrm{Cov}(W_s, W_t) = \min(s, t).$

Процесс $W_t$ является частным случаем гауссовского процесса с нулевым средним и ядром $k(s,t) = \min(s,t)$ . Обобщение на многомерный случай ( $d$ -мерное броуновское движение) получается как вектор независимых одномерных винеровских процессов.

Математические свойства

Марковское свойство

Винеровский процесс обладает сильным марковским свойством: для любого момента остановки $\tau$ (например, первого момента достижения уровня) процесс $W_{\tau + t} - W_{\tau}$ является стандартным винеровским процессом, независимым от $\sigma$ -алгебры $\mathcal{F}_{\tau}$ . Это свойство лежит в основе уравнения Колмогорова — Чепмена и позволяет строить диффузионные процессы через стохастические дифференциальные уравнения.

Мартингальность

Процесс $W_t$ является непрерывным мартингалом относительно естественной фильтрации $\mathcal{F}_t = \sigma(W_s, s \le t)$ :

$\mathbb{E}[W_t \mid \mathcal{F}_s] = W_s \quad \forall s < t.$

Кроме того, квадратичная вариация $W_t$ на отрезке $[0, t]$ равна $t$ п.н., что выражается в пределе:

$\lim\limits_{\|\Delta\| \to 0} \sum_{i=0}^{n-1} (W_{t_{i+1}} - W_{t_i})^2 = t.$

Это свойство имеет фундаментальное значение: оно показывает, что траектории винеровского процесса имеют бесконечную вариацию почти наверное, но конечную квадратическую вариацию.

Самоподобие (масштабная инвариантность)

Для любого $c > 0$ процесс $\tilde W_t = \frac{1}{\sqrt{c}} W_{ct}$ имеет то же распределение, что и $W_t$ . Это свойство самоподобия с индексом Хёрста $H = 1/2$ является характеристическим для стандартного броуновского движения.

Связь со стохастическим исчислением

Винеровский процесс служит интегратором в определении стохастического дифференциального уравнения (СДУ) и интеграла Ито. Классический интеграл Римана — Стилтьеса неприменим к $W_t$ из-за его бесконечной вариации. Интеграл Ито определяется как предел в среднеквадратическом смысле сумм вида:

$\int_0^t f(s)\,dW_s = \lim_{n\to\infty} \sum_{i=0}^{n-1} f(t_i)\,(W_{t_{i+1}} - W_{t_i}),$

где $f$ — предсказуемый процесс. Ключевое отличие от интеграла Лебега — правило умножения дифференциалов, известное как таблица Ито:

$dt \cdot dt = 0, \quad dt \cdot dW_t = 0, \quad dW_t \cdot dW_t = dt.$

Это приводит к формуле Ито — аналогу цепного правила для стохастических процессов. Например, для $X_t = f(W_t)$ :

$df(W_t) = f'(W_t)\,dW_t + \frac{1}{2} f''(W_t)\,dt.$

Стандартное СДУ для скалярного процесса $X_t$ имеет вид:

$dX_t = \mu(X_t, t)\,dt + \sigma(X_t, t)\,dW_t,$

где $\mu$ — коэффициент сноса (дрейфа), $\sigma$ — коэффициент диффузии. Такие уравнения являются основой для моделирования стохастических динамических систем и диффузионных моделей в генеративном ИИ.

Роль в машинном обучении

Гауссовские процессы и ядра

Винеровский процесс непосредственно задаёт ковариационную функцию $k(s,t) = \min(s,t)$ , которая является положительно определённым ядром. В байесовской регрессии на основе гауссовских процессов это ядро соответствует модели интегрированного белого шума и порождает функции, которые являются "слишком" гладкими в смысле среднеквадратической непрерывности, но не дифференцируемыми п.н. Варианты ядер, обобщающих винеровское, такие как ядро Матерна или экспоненциально-квадратичное, активно используются для априорного задания гладкости в задачах обучения по малым выборкам.

Байесовская оптимизация

В байесовской оптимизации винеровский процесс появляется как предельный процесс для случайных блужданий. Априорное распределение на пространстве функций, задаваемое винеровским процессом, является непараметрическим и позволяет оценивать неопределённость в областях без данных. Комбинация винеровского процесса с марковскими свойствами приводит к эффективным алгоритмам оптимизации чёрных ящиков, использующим ожидаемое улучшение (EI) или вероятность улучшения (PI).

Диффузионные модели

В генеративном глубоком обучении винеровский процесс является фундаментом для диффузионных моделей (DDPM, score-based generative models). Обратный процесс генерации моделируется как решение обратного во времени СДУ, где прямое зашумление данных описывается уравнением Орнштейна — Уленбека, которое является линейным СДУ с винеровским шумом. Знание свойств винеровского процесса (например, распределения времени выхода за границу) необходимо для построения корректных алгоритмов сэмплирования и оценки функции правдоподобия.

Стохастические градиентные методы

Анализ сходимости стохастических градиентных методов (SGD) часто использует аппроксимацию дискретного шума винеровским процессом в пределе малых шагов. Это позволяет применять аппарат стохастических дифференциальных уравнений для доказательства сходимости к стационарным точкам и оценки скорости перемешивания в невыпуклых задачах.

Сравнение с другими случайными процессами

Процесс	Тип траекторий	Ковариация	Память	Применение
Винеровский процесс	непрерывные, недифф.	$\min(s,t)$	марковский (отсутствие памяти)	базовый шум, диффузия
Процесс Пуассона	кусочно-постоянные, скачки	$\lambda \min(s,t)$	марковский	моделирование событий, очереди
Процесс Орнштейна — Уленбека	непрерывные, дифф.	$\frac{\sigma^2}{2\theta} e^{-\theta \|s-t\|}$	марковский (эксп. затухание)	возврат к среднему, стохастическая волатильность
Дробное броуновское движение	непрерывные, недифф.	$\frac{1}{2}(\|t\|^{2H}+\|s\|^{2H}-\|t-s\|^{2H})$	долговременная зависимость (при $H \ne 1/2$ )	гидрология, телекоммуникации, фракталы

Процесс Орнштейна — Уленбека является единственным стационарным гауссовским марковским процессом и получается из винеровского через линейное СДУ с возвращающей силой. Дробное броуновское движение с параметром Хёрста $H$ обобщает самоподобие: при $H=1/2$ оно сводится к винеровскому процессу; при $H>1/2$ демонстрирует положительную корреляцию приращений (персистентность), при $H<1/2$ — отрицательную (антиперсистентность).

Ограничения и интерпретация

Винеровский процесс является идеализированной моделью, имеющей ряд физических и вычислительных ограничений.

Физическая нереалистичность

Траектории винеровского процесса обладают бесконечной вариацией, что соответствует бесконечной скорости движения на бесконечно малых масштабах — физически невозможно. Это следствие предположения о независимости и нормальности приращений на любом временном шаге. В реальных системах всегда присутствует конечное время корреляции (например, у реальной броуновской частицы — время релаксации импульса).

Дискретизация и численные схемы

При численном моделировании СДУ распространена схема Эйлера — Маруямы:

$X_{t+\Delta t} = X_t + \mu(X_t,t)\Delta t + \sigma(X_t,t)\,\Delta W_t, \quad \Delta W_t \sim \mathcal{N}(0,\Delta t).$

Типичные ошибки:

Использование слишком большого шага $\Delta t$ относительно времени релаксации системы приводит к нестабильности и накоплению ошибки (слабая сходимость порядка 1, сильная — порядка 1/2).
Игнорирование корреляции приращений при многомерном моделировании (необходимо использовать разложение Холецкого или матричный квадратный корень).
Применение классических методов Рунге — Кутты без учёта правила Ито (ошибочное использование детерминированных схем) ведёт к неправильной дисперсии (феномен "шума, умноженного на шум").

Альтернативные подходы

Для систем с памятью используют дробное броуновское движение или процессы с дробным шумом. Для систем с дискретными скачками — процессы с компенсированным пуассоновским шумом или леви-процессы. Выбор модели определяется природой данных и необходимым уровнем аппроксимации.

Литература

К. Ито, Г. Маккин Диффузионные процессы и их выборочные траектории. — М.: Мир, 1968. — 400 с.
Б. Оксендаль Стохастические дифференциальные уравнения: Введение в теорию и приложения = Stochastic Differential Equations: An Introduction with Applications. — 6-е изд.. — Берлин: Springer, 2003. — ISBN 3-540-04758-1
C. E. Rasmussen, C. K. I. Williams Gaussian Processes for Machine Learning. — 2006.
J. Ho, A. Jain, P. Abbeel Denoising Diffusion Probabilistic Models. — 2020. — Т. 33. — С. 6840–6851.
А. Н. Ширяев Вероятность. — 4-е изд.. — М.: МЦНМО, 2020. — ISBN 978-5-4439-1458-7

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%92%D0%B8%D0%BD%D0%B5%D1%80%D0%BE%D0%B2%D1%81%D0%BA%D0%B8%D0%B9_%D0%BF%D1%80%D0%BE%D1%86%D0%B5%D1%81%D1%81»

Категории: Теория вероятностей | Случайные процессы | Машинное обучение | Математическая статистика

@@ Строка 1: / Строка 1: @@
-{{well|Статья написана с использованием LLM ChatGPT (GPT-5.6 Sol) и проверена участником [[Участник:Aliia Latipova|Aliia Latipova]] 21:00, 18 июля 2026 (MSD)}}
-{{TOCright}}
+{{well|Статья написана с использованием LLM ChatGPT (GPT-5.6 Sol) и проверена участником [[Участник:Aliia Latipova|Aliia Latipova]] 21:00, 18 июля 2026 (MSD)}}
-'''Винеровский процесс''' (математическая модель [[Броуновское движение|броуновского движения]]) — это стохастический процесс с непрерывным временем, обладающий независимыми стационарными приращениями, имеющими нормальное распределение. Винеровский процесс является фундаментальным объектом в теории вероятностей, служа основой для построения стохастических интегралов, [[Стохастическое дифференциальное уравнение|стохастических дифференциальных уравнений]] (СДУ) и современных генеративных моделей в глубоком обучении, таких как [[Диффузионные модели]].
+{{TOCright}}
 == Определение и аксиоматика ==
-Пусть <tex>(\Omega, \mathcal{F}, P)</tex> — вероятностное пространство. Случайный процесс <tex>W_t</tex> (или <tex>B_t</tex>), где <tex>t \ge 0</tex>, называется '''стандартным винеровским процессом''', если он удовлетворяет следующим условиям:
+'''Винеровский процесс''' (часто называемый [[Броуновское движение|броуновским движением]]) является центральным объектом теории случайных процессов и стохастического анализа. Это гауссовский процесс с непрерывными траекториями, который служит математической моделью броуновского движения физических частиц и строительным блоком для диффузионных моделей в машинном обучении.
-# <tex>W_0 = 0</tex> почти наверное.
+'''Стандартный винеровский процесс''' <tex>\{W_t, t \ge 0\}</tex> определяется как случайный процесс, удовлетворяющий следующим аксиомам:
-# '''Независимость приращений:''' Для любых <tex>0 \le t_1 < t_2 < \dots < t_n</tex> случайные величины <tex>W_{t_2} - W_{t_1}, W_{t_3} - W_{t_2}, \dots, W_{t_n} - W_{t_{n-1}}</tex> независимы в совокупности.
-# '''Стационарность и нормальность приращений:''' Для любых <tex>0 \le s < t</tex> приращение <tex>W_t - W_s</tex> имеет нормальное распределение с нулевым математическим ожиданием и дисперсией, равной <tex>t - s</tex>:
-#: <tex>W_t - W_s \sim \mathcal{N}(0, t - s)</tex>.
-# '''Непрерывность траекторий:''' Функция <tex>t \mapsto W_t(\omega)</tex> непрерывна по <tex>t</tex> для почти всех <tex>\omega \in \Omega</tex>.
-Существование такого процесса доказывается теоремой Колмогорова о продолжении меры или через построение ряда функций (например, базиса Хаара).
+# '''Начальное условие''': <tex>W_0 = 0</tex> почти наверное (п.н.).
+# '''Гауссовость и моменты''': Для любых <tex>0 \le s < t</tex> приращение <tex>W_t - W_s</tex> имеет нормальное распределение с нулевым математическим ожиданием и дисперсией <tex>t - s</tex>:
+:: <tex>W_t - W_s \sim \mathcal{N}(0, t-s).</tex>
+# '''Независимость приращений''': Для любых непересекающихся интервалов <tex>[s_1, t_1], [s_2, t_2], \ldots, [s_n, t_n]</tex> соответствующие приращения <tex>W_{t_i} - W_{s_i}</tex> статистически независимы.
+# '''Непрерывность траекторий''': Почти все выборочные траектории <tex>t \mapsto W_t</tex> непрерывны на <tex>[0, \infty)</tex>.
+Эквивалентное задание — через ковариационную функцию. Для стандартного винеровского процесса:
+:: <tex>\mathrm{Cov}(W_s, W_t) = \min(s, t).</tex>
+Процесс <tex>W_t</tex> является частным случаем [[Гауссовский процесс|гауссовского процесса]] с нулевым средним и ядром <tex>k(s,t) = \min(s,t)</tex>. Обобщение на многомерный случай (<tex>d</tex>-мерное броуновское движение) получается как вектор независимых одномерных винеровских процессов.
 == Математические свойства ==
-Винеровский процесс обладает рядом уникальных свойств, определяющих его роль в анализе:
+=== Марковское свойство ===
+Винеровский процесс обладает сильным марковским свойством: для любого момента остановки <tex>\tau</tex> (например, первого момента достижения уровня) процесс <tex>W_{\tau + t} - W_{\tau}</tex> является стандартным винеровским процессом, независимым от <tex>\sigma</tex>-алгебры <tex>\mathcal{F}_{\tau}</tex>. Это свойство лежит в основе уравнения Колмогорова — Чепмена и позволяет строить диффузионные процессы через стохастические дифференциальные уравнения.
-* '''Марковское свойство:''' Будущее поведение процесса при условии известного настоящего <tex>W_t</tt> не зависит от его предыстории до момента <tex>t</tt>.
+=== Мартингальность ===
-* '''[[Мартингал]]:''' Процесс <tex>W_t</tt> является мартингалом относительно своей естественной фильтрации <tex>\mathcal{F}_t</tt>, так как <tex>\mathbb{E}[W_t | \mathcal{F}_s] = W_s</tt> для <tex>t > s</tt>.
+Процесс <tex>W_t</tex> является непрерывным [[Мартингал|мартингалом]] относительно естественной фильтрации <tex>\mathcal{F}_t = \sigma(W_s, s \le t)</tex>:
-* '''Самоподобие (масштабная инвариантность):''' Для любого <tex>a > 0</tt> процесс <tex>X_t = \frac{1}{\sqrt{a}} W_{at}</tt> также является винеровским.
+:: <tex>\mathbb{E}[W_t \mid \mathcal{F}_s] = W_s \quad \forall s < t.</tex>
-* '''Недифференцируемость:''' Траектории винеровского процесса почти наверное недифференцируемы ни в одной точке. Это свойство делает невозможным применение классического анализа Ньютона-Лейбница к его траекториям.
+Кроме того, квадратичная вариация <tex>W_t</tex> на отрезке <tex>[0, t]</tex> равна <tex>t</tex> п.н., что выражается в пределе:
-* '''Бесконечная вариация:''' На любом конечном интервале траектории имеют бесконечную вариацию, но их '''квадратичная вариация''' детерминирована:
+:: <tex>\lim\limits_{\|\Delta\| \to 0} \sum_{i=0}^{n-1} (W_{t_{i+1}} - W_{t_i})^2 = t.</tex>
-#: <tex>[W, W]_t = \lim_{\Delta t_i \to 0} \sum (W_{t_{i+1}} - W_{t_i})^2 = t</tex>.
+Это свойство имеет фундаментальное значение: оно показывает, что траектории винеровского процесса имеют бесконечную вариацию почти наверное, но конечную квадратическую вариацию.
-== Связь со стохастическим исчислением ==
-Из-за отсутствия производной в классическом смысле, для описания динамики систем под воздействием винеровского шума используется '''исчисление Ито'''.
+=== Самоподобие (масштабная инвариантность) ===
+Для любого <tex>c > 0</tex> процесс <tex>\tilde W_t = \frac{1}{\sqrt{c}} W_{ct}</tex> имеет то же распределение, что и <tex>W_t</tex>. Это свойство самоподобия с индексом Хёрста <tex>H = 1/2</tex> является характеристическим для стандартного броуновского движения.
-=== Интеграл Ито ===
+== Связь со стохастическим исчислением ==
-Стохастический интеграл вида
-: <tex>I_t = \int_0^t f(s, \omega) dW_s</tex>
-определяется как предел римановых сумм, где значения подынтегральной функции <tex>f</tt> берутся в ''левых'' концах элементарных интервалов. Это обеспечивает свойство адаптивности и мартингальности интеграла.
-=== Стохастические дифференциальные уравнения (СДУ) ===
+Винеровский процесс служит интегратором в определении [[Стохастическое дифференциальное уравнение|стохастического дифференциального уравнения]] (СДУ) и интеграла Ито. Классический интеграл Римана — Стилтьеса неприменим к <tex>W_t</tex> из-за его бесконечной вариации. Интеграл Ито определяется как предел в среднеквадратическом смысле сумм вида:
-Многие процессы в физике и ИИ описываются уравнением:
+:: <tex>\int_0^t f(s)\,dW_s = \lim_{n\to\infty} \sum_{i=0}^{n-1} f(t_i)\,(W_{t_{i+1}} - W_{t_i}),</tex>
-: <tex>dX_t = \mu(X_t, t)dt + \sigma(X_t, t)dW_t</tex>,
+где <tex>f</tex> — предсказуемый процесс. Ключевое отличие от интеграла Лебега — правило умножения дифференциалов, известное как таблица Ито:
-где <tex>\mu</tt> — коэффициент переноса (drift), а <tex>\sigma</tt> — коэффициент диффузии. Решение таких уравнений неразрывно связано с формулой Ито, которая является стохастическим аналогом правила цепного дифференцирования.
+:: <tex>dt \cdot dt = 0, \quad dt \cdot dW_t = 0, \quad dW_t \cdot dW_t = dt.</tex>
+Это приводит к формуле Ито — аналогу цепного правила для стохастических процессов. Например, для <tex>X_t = f(W_t)</tex>:
+:: <tex>df(W_t) = f'(W_t)\,dW_t + \frac{1}{2} f''(W_t)\,dt.</tex>
+Стандартное СДУ для скалярного процесса <tex>X_t</tex> имеет вид:
+:: <tex>dX_t = \mu(X_t, t)\,dt + \sigma(X_t, t)\,dW_t,</tex>
+где <tex>\mu</tex> — коэффициент сноса (дрейфа), <tex>\sigma</tex> — коэффициент диффузии. Такие уравнения являются основой для моделирования стохастических динамических систем и [[Диффузионные модели|диффузионных моделей]] в генеративном ИИ.
 == Роль в машинном обучении ==
-=== Гауссовские процессы ===
+=== Гауссовские процессы и ядра ===
-Винеровский процесс является частным случаем [[Гауссовский процесс|гауссовского процесса]] с ковариационной функцией (ядром):
+Винеровский процесс непосредственно задаёт ковариационную функцию <tex>k(s,t) = \min(s,t)</tex>, которая является положительно определённым ядром. В байесовской регрессии на основе [[Гауссовский процесс|гауссовских процессов]] это ядро соответствует модели интегрированного белого шума и порождает функции, которые являются "слишком" гладкими в смысле среднеквадратической непрерывности, но не дифференцируемыми п.н. Варианты ядер, обобщающих винеровское, такие как ядро Матерна или экспоненциально-квадратичное, активно используются для априорного задания гладкости в задачах обучения по малым выборкам.
-: <tex>K(s, t) = \text{cov}(W_s, W_t) = \min(s, t)</tex>.
-В байесовском машинном обучении это ядро используется для моделирования случайных функций. Регрессия на гауссовских процессах с винеровским ядром эквивалентна поиску гладкой аппроксимации в пространстве функций с ограничениями на производные.
-=== Диффузионные модели (Diffusion Models) ===
+=== Байесовская оптимизация ===
-В современных генеративных архитектурах (DDPM, Stable Diffusion) винеровский процесс используется для постепенного превращения данных (например, изображений) в белый шум. Процесс генерации заключается в решении обратного СДУ:
+В байесовской оптимизации винеровский процесс появляется как предельный процесс для случайных блужданий. Априорное распределение на пространстве функций, задаваемое винеровским процессом, является непараметрическим и позволяет оценивать неопределённость в областях без данных. Комбинация винеровского процесса с марковскими свойствами приводит к эффективным алгоритмам оптимизации чёрных ящиков, использующим ожидаемое улучшение (EI) или вероятность улучшения (PI).
-: <tex>dx = [f(x, t) - g^2(t) \nabla_x \log p_t(x)] dt + g(t) d\bar{W}_t</tt>,
-где <tex>\nabla_x \log p_t(x)</tt> — оценка [[Score-based modeling|score-функции]] (градиента логарифма плотности вероятности), обучаемая с помощью нейронной сети. Винеровский процесс здесь гарантирует, что фазовое пространство будет исследовано непрерывно и эргодично.
-== Сравнение с другими процессами ==
+=== Диффузионные модели ===
+В генеративном глубоком обучении винеровский процесс является фундаментом для [[Диффузионные модели|диффузионных моделей]] (DDPM, score-based generative models). Обратный процесс генерации моделируется как решение обратного во времени СДУ, где прямое зашумление данных описывается уравнением Орнштейна — Уленбека, которое является линейным СДУ с винеровским шумом. Знание свойств винеровского процесса (например, распределения времени выхода за границу) необходимо для построения корректных алгоритмов сэмплирования и оценки функции правдоподобия.
+=== Стохастические градиентные методы ===
+Анализ сходимости стохастических градиентных методов (SGD) часто использует аппроксимацию дискретного шума винеровским процессом в пределе малых шагов. Это позволяет применять аппарат стохастических дифференциальных уравнений для доказательства сходимости к стационарным точкам и оценки скорости перемешивания в невыпуклых задачах.
+== Сравнение с другими случайными процессами ==
 {| class="wikitable"
-! Свойство !! Винеровский процесс !! Процесс Пуассона !! Процесс Орнштейна — Уленбека !! Дробное БД
 |-
-| '''Непрерывность''' || Непрерывен || Скачкообразен || Непрерывен || Непрерывен
+! Процесс !! Тип траекторий !! Ковариация !! Память !! Применение
 |-
-| '''Приращения''' || Нормальные || Дискретные (Пуассоновские) || Нормальные || Нормальные
+| '''Винеровский процесс''' || непрерывные, недифф. || <tex>\min(s,t)</tex> || марковский (отсутствие памяти) || базовый шум, диффузия
 |-
-| '''Память''' || Отсутствует (Марковский) || Отсутствует (Марковский) || Забывание (Mean-reversion) || Длинная память (при <tex>H \neq 1/2</tt>)
+| [[Процесс Пуассона]] || кусочно-постоянные, скачки || <tex>\lambda \min(s,t)</tex> || марковский || моделирование событий, очереди
 |-
-| '''Масштабирование''' || <tex>\sqrt{t}</tex> || <tex>t</tex> || Экспоненциальное || <tex>t^H</tt>
+| Процесс Орнштейна — Уленбека || непрерывные, дифф. || <tex>\frac{\sigma^2}{2\theta} e^{-\theta |s-t|}</tex> || марковский (эксп. затухание) || возврат к среднему, стохастическая волатильность
+|-
+| Дробное броуновское движение || непрерывные, недифф. || <tex>\frac{1}{2}(|t|^{2H}+|s|^{2H}-|t-s|^{2H})</tex> || долговременная зависимость (при <tex>H \ne 1/2</tex>) || гидрология, телекоммуникации, фракталы
 |}
-* [[Процесс Орнштейна — Уленбека]] часто используется в ML для моделирования шума с возвратом к среднему (например, в алгоритме DDPG в обучении с подкреплением).
+Процесс Орнштейна — Уленбека является единственным стационарным гауссовским марковским процессом и получается из винеровского через линейное СДУ с возвращающей силой. Дробное броуновское движение с параметром Хёрста <tex>H</tex> обобщает самоподобие: при <tex>H=1/2</tex> оно сводится к винеровскому процессу; при <tex>H>1/2</tex> демонстрирует положительную корреляцию приращений (персистентность), при <tex>H<1/2</tex> — отрицательную (антиперсистентность).
-* '''Дробное броуновское движение''' применяется там, где важна корреляция между далекими моментами времени (финансовые временные ряды).
 == Ограничения и интерпретация ==
-# '''Физическая нереализуемость:''' Мгновенная скорость винеровского процесса <tex>v = \frac{dW}{dt}</tt> формально бесконечна. В реальных физических системах (например, частица в жидкости) броуновское движение является пределом процесса с конечной скоростью на малых временах (процесс Ланжевена).
+Винеровский процесс является идеализированной моделью, имеющей ряд физических и вычислительных ограничений.
-# '''Дискретизация:''' При реализации в коде используется аппроксимация Эйлера-Маруямы: <tex>\Delta W = \epsilon \sqrt{\Delta t}</tt>, где <tex>\epsilon \sim \mathcal{N}(0, 1)</tt>. Ошибка дискретизации может накапливаться, что критично при обучении диффузионных моделей.
-# '''Проклятие размерности:''' В задачах большой размерности (высокоразмерные SDE) плотность вероятности размывается, что требует специальных техник регуляризации и архитектурных решений в нейросетях.
+=== Физическая нереалистичность ===
+Траектории винеровского процесса обладают бесконечной вариацией, что соответствует бесконечной скорости движения на бесконечно малых масштабах — физически невозможно. Это следствие предположения о независимости и нормальности приращений на любом временном шаге. В реальных системах всегда присутствует конечное время корреляции (например, у реальной броуновской частицы — время релаксации импульса).
+=== Дискретизация и численные схемы ===
+При численном моделировании СДУ распространена схема Эйлера — Маруямы:
+:: <tex>X_{t+\Delta t} = X_t + \mu(X_t,t)\Delta t + \sigma(X_t,t)\,\Delta W_t, \quad \Delta W_t \sim \mathcal{N}(0,\Delta t).</tex>
+Типичные ошибки:
+# Использование слишком большого шага <tex>\Delta t</tex> относительно времени релаксации системы приводит к нестабильности и накоплению ошибки (слабая сходимость порядка 1, сильная — порядка 1/2).
+# Игнорирование корреляции приращений при многомерном моделировании (необходимо использовать разложение Холецкого или матричный квадратный корень).
+# Применение классических методов Рунге — Кутты без учёта правила Ито (ошибочное использование детерминированных схем) ведёт к неправильной дисперсии (феномен "шума, умноженного на шум").
+=== Альтернативные подходы ===
+Для систем с памятью используют дробное броуновское движение или процессы с дробным шумом. Для систем с дискретными скачками — процессы с компенсированным пуассоновским шумом или леви-процессы. Выбор модели определяется природой данных и необходимым уровнем аппроксимации.
 == Литература ==
-* {{книга|автор=Оксендаль Б.|заглавие=Стохастические дифференциальные уравнения. Введение в теорию и приложения|издательство=Мир|год=2003}}
+* {{книга
-* {{книга|автор=Булинский А. В., Ширяев А. Н.|заглавие=Теория случайных процессов|издательство=Физматлит|год=2005}}
+ | автор         = К. Ито, Г. Маккин
-* {{статья|автор=Song Y., Ermon S.|заглавие=Generative Modeling by Estimating Gradients of the Data Distribution|journal=arXiv preprint|year=2019}}
+ | заглавие      = Диффузионные процессы и их выборочные траектории
-* {{книга|автор=Karatzas I., Shreve S.|заглавие=Brownian Motion and Stochastic Calculus|publisher=Springer-Verlag|year=1991}}
+ | оригинал      =
+ | ссылка        =
+ | издание       =
+ | место         = М.
+ | издательство  = Мир
+ | год           = 1968
+ | страниц       = 400
+}}
+* {{книга
+ | автор         = Б. Оксендаль
+ | заглавие      = Стохастические дифференциальные уравнения: Введение в теорию и приложения
+ | оригинал      = Stochastic Differential Equations: An Introduction with Applications
+ | ссылка        =
+ | издание       = 6-е изд.
+ | место         = Берлин
+ | издательство  = Springer
+ | год           = 2003
+ | isbn          = 3-540-04758-1
+}}
+* {{статья
+ | автор         = C. E. Rasmussen, C. K. I. Williams
+ | заглавие      = Gaussian Processes for Machine Learning
+ | ссылка        =
+ | журнал        = MIT Press
+ | год           = 2006
+ | том           =
+ | страницы      =
+}}
+* {{статья
+ | автор         = J. Ho, A. Jain, P. Abbeel
+ | заглавие      = Denoising Diffusion Probabilistic Models
+ | ссылка        =
+ | журнал        = Advances in Neural Information Processing Systems
+ | год           = 2020
+ | том           = 33
+ | страницы      = 6840–6851
+}}
+* {{книга
+ | автор         = А. Н. Ширяев
+ | заглавие      = Вероятность
+ | ссылка        =
+ | издание       = 4-е изд.
+ | место         = М.
+ | издательство  = МЦНМО
+ | год           = 2020
+ | isbn          = 978-5-4439-1458-7
+}}
 [[Категория:Теория вероятностей]]