Просмотр

Материал из MachineLearning.

У вас нет прав на выполнение этой операции по следующим причинам:

• Запрошенное действие могут выполнять только участники из групп emailconfirmed, Администраторы.
• Вы должны подтвердить ваш адрес электронной почты перед правкой страниц. Пожалуйста, введите и подтвердите ваш адрес эл. почты на странице настроек.

Вы можете просмотреть и скопировать исходный текст этой страницы:

{{well|Статья написана с использованием LLM '''ChatGPT 5.6 Sol - xhigh''' и проверена участником [[Юхарев Роман Андреевич]] 19:55 14 июля 2026.}} {{TOCright}} '''Стохастическое дифференциальное уравнение''' (СДУ, англ. ''stochastic differential equation'', SDE) — уравнение, задающее динамику случайного процесса с помощью детерминированного изменения и случайного воздействия, представленного стохастическим интегралом. В наиболее распространённом случае источником случайности служит винеровский процесс.. СДУ применяются для описания диффузии, случайных динамических систем и финансовых процессов, а в машинном обучении — для анализа стохастической оптимизации, сэмплирования методом Ланжевена и построения [[Диффузионная модель|диффузионных генеративных моделей]]. == Определение == СДУ Ито в <tex>d</tex>-мерном пространстве записывают как :<tex>dX_t=b(X_t,t)\,dt+\sigma(X_t,t)\,dW_t,\qquad X_0\sim p_0.</tex> Здесь <tex>X_t\in\mathbb R^d</tex> — случайный процесс, <tex>b</tex> — коэффициент сноса (drift), <tex>\sigma</tex> — матрица диффузии, а <tex>W_t</tex> — многомерный [[Винеровский процесс]]. Дифференциальная запись является сокращением интегрального уравнения :<tex>X_t=X_0+\int_0^t b(X_s,s)\,ds+\int_0^t\sigma(X_s,s)\,dW_s.</tex> Второй интеграл понимается как стохастический интеграл Ито. Приращения винеровского процесса независимы от прошлого и распределены как :<tex>W_{t+h}-W_t\sim\mathcal N(0,hI).</tex> Поэтому их типичный масштаб пропорционален <tex>\sqrt h</tex>, а не <tex>h</tex>. Траектории <tex>W_t</tex> почти наверное непрерывны, но нигде не дифференцируемы в обычном смысле; формальный символ <tex>dW_t/dt</tex> нельзя трактовать как обычную функцию. Условия существования и единственности зависят от принятого понятия решения. Глобальная липшицевость <tex>b,\sigma</tex> по состоянию и условие линейного роста являются стандартными достаточными, но не необходимыми условиями существования единственного сильного решения. == Исчисление Ито == Для обычного дифференциального уравнения правило цепочки не содержит второй производной. Для процесса :<tex>dX_t=b(X_t,t)dt+\sigma(X_t,t)dW_t</tex> формула Ито для гладкой функции <tex>f(x,t)</tex> в одномерном случае имеет вид :<tex>df(X_t,t)=\left(f_t+b f_x+\frac{1}{2}\sigma^2 f_{xx}\right)dt+\sigma f_x\,dW_t.</tex> Дополнительный член возникает из квадратичной вариации <tex>(dW_t)^2=dt</tex>. Он принципиален, например, при преобразовании переменных и выводе уравнения для плотности. Другая распространённая договорённость — интеграл Стратоновича, обозначаемый <tex>\circ dW_t</tex>. В одном измерении уравнение :<tex>dX_t=a(X_t,t)dt+c(X_t,t)\circ dW_t</tex> эквивалентно СДУ Ито со сносом :<tex>b(x,t)=a(x,t)+\frac{1}{2}c(x,t)\frac{\partial c(x,t)}{\partial x}.</tex> Поэтому одинаковая символическая запись шума без указания соглашения может задавать разные процессы. В задачах машинного обучения обычно подразумевают форму Ито. == Уравнение Фоккера — Планка == Если <tex>p(x,t)</tex> — плотность распределения <tex>X_t</tex>, то при достаточной гладкости она удовлетворяет прямому уравнению Колмогорова, или уравнению Фоккера — Планка: :<tex>\frac{\partial p}{\partial t}=-\sum_i\frac{\partial}{\partial x_i}(b_i p)+\frac{1}{2}\sum_{i,j}\frac{\partial^2}{\partial x_i\partial x_j}(A_{ij}p),</tex> где :<tex>A(x,t)=\sigma(x,t)\sigma(x,t)^{\mathsf T}.</tex> СДУ описывает случайные траектории, а уравнение Фоккера — Планка — детерминированную эволюцию их распределения. Граничные условия и поведение коэффициентов определяют, существует ли стационарная плотность. == Численное решение == Простейшая дискретизация СДУ Ито — схема Эйлера — Маруямы. Для шага <tex>h</tex> :<tex>X_{k+1}=X_k+b(X_k,t_k)h+\sigma(X_k,t_k)\sqrt h\,\xi_k,</tex> где <tex>\xi_k\sim\mathcal N(0,I)</tex> независимы. Случайный член имеет порядок <tex>\sqrt h</tex>; замена его на величину порядка <tex>h</tex> задаёт другую дискретизацию. При стандартных условиях схема Эйлера — Маруямы имеет сильный порядок сходимости <tex>1/2</tex> для общего СДУ. Сильная сходимость измеряет ошибку траекторий при общем источнике шума, а слабая — ошибку ожиданий тестовых функций. Порядки могут различаться. Для жёстких уравнений, неглобально липшицевых коэффициентов и требований к инвариантному распределению нужны специальные схемы.<ref name="kloeden">Kloeden P. E., Platen E. [https://link.springer.com/book/10.1007/978-3-662-12616-5 Numerical Solution of Stochastic Differential Equations]. Springer, 1992.</ref> == Динамика Ланжевена == Передемпфированная динамика Ланжевена для потенциала <tex>U(x)</tex> записывается как :<tex>dX_t=-\nabla U(X_t)dt+\sqrt{2T}\,dW_t,</tex> где <tex>T>0</tex> играет роль температуры. При подходящих условиях стационарная плотность равна :<tex>\pi(x)=\frac{1}{Z}\exp\left(-\frac{U(x)}{T}\right).</tex> Если требуется получать выборки из плотности <tex>\pi(x)\propto\exp(-U(x))</tex>, выбирают <tex>T=1</tex>. Дискретизация с постоянным шагом даёт unadjusted Langevin algorithm: :<tex>X_{k+1}=X_k-h\nabla U(X_k)+\sqrt{2h}\,\xi_k.</tex> Конечный шаг вносит смещение в стационарное распределение. Его можно уменьшать, корректировать шагом Метрополиса или анализировать как часть приближённого алгоритма. === Стохастическая градиентная динамика Ланжевена === Для байесовского posterior <tex>p(\theta\mid D)\propto p(D\mid\theta)p(\theta)</tex> градиент логарифма по большой выборке дорого вычислять целиком. Stochastic Gradient Langevin Dynamics (SGLD) заменяет его несмещённой мини-пакетной оценкой <tex>\widehat g_k</tex> и добавляет гауссовский шум: :<tex>\theta_{k+1}=\theta_k+\frac{\varepsilon_k}{2}\widehat g_k+\sqrt{\varepsilon_k}\,\xi_k.</tex> При убывающих шагах и дополнительных условиях влияние ошибки дискретизации исчезает, а итерации используются для приближения posterior.<ref name="sgld">Welling M., Teh Y. W. [https://icml.cc/2011/papers/398_icmlpaper.pdf Bayesian Learning via Stochastic Gradient Langevin Dynamics] // ''Proceedings of the 28th International Conference on Machine Learning''. 2011. P. 681–688.</ref> На практике конечное время, ненулевая скорость обучения, коррелированные выборки и неточный градиент приводят к приближению, которое следует диагностировать как алгоритм сэмплирования, а не только как оптимизатор. == SGD как случайный процесс == Обновление [[Стохастический градиентный спуск|SGD]] можно представить как :<tex>\theta_{k+1}=\theta_k-\eta\left(\nabla L(\theta_k)+\zeta_k\right),</tex> где <tex>\zeta_k</tex> — ошибка мини-пакетного градиента с условным средним, близким к нулю. При малом шаге и регулярных предположениях дискретную динамику можно приближать СДУ, например :<tex>d\theta_t=-\nabla L(\theta_t)dt+\sqrt\eta\,B(\theta_t)dW_t,</tex> где <tex>B(\theta)B(\theta)^{\mathsf T}</tex> аппроксимирует ковариацию шума градиента. Метод стохастических модифицированных уравнений формализует слабые приближения такого типа.<ref name="sme">Li Q., Tai C., E W. [https://proceedings.mlr.press/v70/li17f.html Stochastic Modified Equations and Adaptive Stochastic Gradient Algorithms] // ''Proceedings of the 34th International Conference on Machine Learning''. 2017. P. 2101–2110.</ref> Эту связь нельзя понимать буквально без условий: * шум мини-пакетов обычно не изотропен и зависит от <tex>\theta</tex>; * его распределение не обязано быть гауссовским; * ковариация зависит от размера пакета и способа выборки; * импульс и адаптивные оптимизаторы требуют расширенного состояния; * изменение скорости обучения меняет и снос, и эффективную диффузию. Около устойчивого минимума постоянный малый шаг SGD иногда приближают процессом Орнштейна — Уленбека и изучают его стационарную ковариацию. В рамках дополнительных локальных и гауссовских предположений параметры SGD можно настраивать так, чтобы это распределение приближало байесовское posterior.<ref name="mandt">Mandt S., Hoffman M. D., Blei D. M. [https://jmlr.org/beta/papers/v18/17-214.html Stochastic Gradient Descent as Approximate Bayesian Inference] // ''Journal of Machine Learning Research''. 2017. Vol. 18, No. 134. P. 1–35.</ref> Обычный SGD сам по себе не является универсальным точным байесовским сэмплером. == Диффузионные модели == В score-based представлении диффузионной модели прямой процесс постепенно добавляет шум к данным: :<tex>dX_t=f(X_t,t)dt+g(t)dW_t,\qquad X_0\sim p_{\mathrm{data}}.</tex> К моменту <tex>T</tex> распределение <tex>p_T</tex> выбирают близким к простому, например гауссовскому. При достаточной регулярности соответствующий обратный по времени процесс имеет снос, зависящий от score — градиента логарифма текущей плотности: :<tex>dX_t=\left[f(X_t,t)-g(t)^2\nabla_x\log p_t(X_t)\right]dt+g(t)d\overline W_t,</tex> где время интегрируется от <tex>T</tex> к <tex>0</tex>, а <tex>\overline W_t</tex> — винеровский процесс в обратном времени. Общая теория обратных диффузий была разработана до современных генеративных моделей.<ref name="anderson">Anderson B. D. O. [https://doi.org/10.1016/0304-4149(82)90051-5 Reverse-Time Diffusion Equation Models] // ''Stochastic Processes and their Applications''. 1982. Vol. 12, No. 3. P. 313–326.</ref> Плотность <tex>p_t</tex> неизвестна, поэтому нейронную сеть <tex>s_\phi(x,t)</tex> обучают приближать :<tex>s_\phi(x,t)\approx\nabla_x\log p_t(x).</tex> После обучения образцы генерируют численным интегрированием обратного СДУ из шума. Существует также детерминированное probability-flow ODE с теми же одномоментными маргинальными распределениями. Формулировка через СДУ объединяет ряд дискретных диффузионных и score-based моделей.<ref name="song">Song Y. et al. [https://openreview.net/forum?id=PxTIG12RRHS Score-Based Generative Modeling through Stochastic Differential Equations] // ''International Conference on Learning Representations''. 2021.</ref> == Типичные ошибки == * '''Символ <tex>dW_t</tex> считают обычной производной.''' Стохастический интеграл задаётся как предел случайных сумм и требует выбранного соглашения. * '''Путают формы Ито и Стратоновича.''' При зависящей от состояния диффузии переход меняет снос. * '''В схеме Эйлера шум умножают на <tex>h</tex>.''' Винеровское приращение имеет масштаб <tex>\sqrt h</tex>. * '''Любой SGD объявляют динамикой Ланжевена.''' Шум мини-пакетов имеет собственную ковариацию; для сэмплирования нужны дополнительные условия или явно добавленный шум. * '''Дискретизацию считают точным стационарным процессом.''' Постоянный конечный шаг обычно создаёт смещение. * '''Обратное СДУ запускают без указания направления времени.''' В формуле обратной диффузии <tex>dt</tex> соответствует интегрированию от <tex>T</tex> к нулю. == См. также == * [[Винеровский процесс]] * [[Уравнение Фоккера — Планка]] * [[Стохастический градиентный спуск]] * [[Метод Монте-Карло по схеме марковской цепи]] * [[Диффузионная модель]] * [[Байесовское обучение]] == Примечания == {{примечания}} == Литература == * Øksendal B. ''Stochastic Differential Equations: An Introduction with Applications''. 6th ed. Springer, 2003. * Kloeden P. E., Platen E. ''Numerical Solution of Stochastic Differential Equations''. Springer, 1992. * Welling M., Teh Y. W. Bayesian Learning via Stochastic Gradient Langevin Dynamics // ''Proceedings of ICML''. 2011. P. 681–688. * Mandt S., Hoffman M. D., Blei D. M. Stochastic Gradient Descent as Approximate Bayesian Inference // ''Journal of Machine Learning Research''. 2017. Vol. 18, No. 134. P. 1–35. * Song Y. et al. Score-Based Generative Modeling through Stochastic Differential Equations // ''International Conference on Learning Representations''. 2021. [[Категория:Машинное обучение]] [[Категория:Энциклопедия анализа данных]]

• Шаблон:Mbox
• Шаблон:TOCright
• Шаблон:Well
• Шаблон:Примечания

Возврат к странице Стохастическое дифференциальное уравнение.