Сходимость по вероятности
Материал из MachineLearning.
(→Определение) |
(категория) |
||
(8 промежуточных версий не показаны.) | |||
Строка 1: | Строка 1: | ||
== Определение == | == Определение == | ||
- | Пусть <tex>(\Omega,\mathcal{F},\mathbb{P})</tex> - вероятностное пространство с определёнными на нём случайными величинами <tex>X | + | Пусть <tex>(\Omega,\mathcal{F},\mathbb{P})</tex> - [[вероятностное пространство]] с определёнными на нём случайными величинами <tex>X,\; X_n\;(n=1,2,\ldots)</tex>. |
- | + | ||
- | Обозначение: <tex>X_n \stackrel{\mathbb{P}}{\longrightarrow} X</tex>. | + | Говорят, что <tex>\{X_n\}_{n=1}^{\infty}</tex> '''сходится по вероятности''' к <tex>X</tex>, если <tex>\forall \varepsilon > 0</tex>: |
+ | <center><tex>\lim\limits_{n \to \infty} \mathbb{P}(|X_n - X| > \varepsilon) = 0</tex>.</center> | ||
+ | |||
+ | '''Обозначение''': <tex>X_n \stackrel{\mathbb{P}}{\longrightarrow} X</tex>. | ||
+ | |||
+ | ==Пояснение и пример== | ||
+ | |||
+ | Данное свойство означает, что если взять величину <tex>X_n</tex> с достаточно большим номером, то вероятность значительного отклонения от предельной величины <tex>X</tex> будет небольшой. Однако важно понимать, что если одновременно (т.е. для одного и того же элементарного исхода <tex>\omega</tex>) рассмотреть последовательность <tex>\{X_n(\omega)\}</tex>, то она не обязана сходиться к значению <tex>X(\omega)</tex>, вообще говоря, ни при каком <tex>\omega</tex>. Т.е. сколь угодно далеко могут находиться сильно отклоняющиеся значения, просто их "не очень много", поэтому вероятность того, что такое сильное отклонение попадет в заданном эксперименте на конкретно заданный номер <tex>n</tex>, мала. | ||
+ | |||
+ | В качестве примера рассмотрим вероятностное пространство <tex>\Omega = [0,1]</tex>, вероятность - мера Лебега (т.е. вероятность любого интервала равна его длине). Случайные величины зададим следующим образом: для первых двух <tex>X_1,X_2</tex> разбиваем <tex>\Omega</tex> на два интервала <tex>[0,\frac{1}{2})</tex> и <tex>(\frac{1}{2},1]</tex> и определяем <tex>X_1</tex> равной 1 на первом интервале и 0 на втором, а <tex>X_2</tex> - наоборот, 0 на первом интервале и 1 на втором. Далее берем следующие четыре величины <tex>X_3,X_4,X_5,X_6</tex>, делим <tex>\Omega</tex> на четыре непересекающихся интервала длины <tex>\frac14</tex> и задаем каждую величину равной 1 на своем интервале и 0 на остальных. Затем рассматриваем следующие 8 величин, делим <tex>\Omega</tex> на 8 интервалов и т.д. | ||
+ | |||
+ | В результате для каждого элементарного исхода <tex>\omega</tex> последовательность значений имеет вид: | ||
+ | |||
+ | <center><tex>\{X_n(\omega)\}=(\underbrace{1,0}_2,\underbrace{0,0,1,0}_4,\underbrace{0,0,0,0,0,1,0,0}_8,\ldots)</tex>:</center> | ||
+ | |||
+ | последовательность состоит из серий длин <tex>2,4,8,16,\ldots,2^k,=ldots</tex>, причем в каждой серии на каком-либо одном месте (зависящем от выбранного элементарного исхода) стоит значение 1, а на остальных местах - нули. | ||
+ | |||
+ | Случайные величины, входящие в серию с номером <tex>k</tex> (длины <tex>2^k</tex>) принимают значение 1 с вероятностью <tex>2^{-k}</tex> и значение 0 с вероятностью <tex>1-2^{-k}</tex>. Из основного определения следует, что данная последовательность сходится по вероятности к случайной величине <tex>X\equiv 0</tex>. При этом ни при одном значении <tex>\omega</tex> последовательность значений <tex>X_n</tex> не сходится к <tex>0</tex>, так как в любой последовательности значений сколь угодно далеко обязательно находятся отстоящие от 0 значения. Однако поскольку длины серий неограниченно возрастают, то вероятность "попасть" на это значение становится сколь угодно малой при выборе элемента последовательности с достаточно большим номером. | ||
+ | |||
+ | Заметим, что вместо значения 1 можно выбрать любое другое (в том числе как угодно быстро возрастающее с ростом <tex>n</tex>), и тем самым сделать последовательность математических ожиданий <tex>\mathbb{M}X_n</tex> произвольной (в том числе неограниченной). Данный пример показывает, что сходимость по вероятности не влечет сходимости математических ожиданий (равно как и любых других [[моменты_случайной_величины|моментов]]). | ||
+ | |||
+ | Более сильный вид сходимости, который обеспечивает сходимость последовательностей значений к предельному - сходимость почти всюду. | ||
== Литература == | == Литература == | ||
Строка 15: | Строка 35: | ||
|год = 1977 | |год = 1977 | ||
}} | }} | ||
+ | #{{книга | ||
+ | |автор = Ширяев А.Н. | ||
+ | |заглавие = Вероятность | ||
+ | |год = 2004 | ||
+ | |место = М. | ||
+ | |издательство = МЦНМО | ||
+ | }} | ||
+ | |||
+ | [[Категория:Теория вероятностей]] |
Текущая версия
Определение
Пусть - вероятностное пространство с определёнными на нём случайными величинами
.
Говорят, что сходится по вероятности к
, если
:
Обозначение: .
Пояснение и пример
Данное свойство означает, что если взять величину с достаточно большим номером, то вероятность значительного отклонения от предельной величины
будет небольшой. Однако важно понимать, что если одновременно (т.е. для одного и того же элементарного исхода
) рассмотреть последовательность
, то она не обязана сходиться к значению
, вообще говоря, ни при каком
. Т.е. сколь угодно далеко могут находиться сильно отклоняющиеся значения, просто их "не очень много", поэтому вероятность того, что такое сильное отклонение попадет в заданном эксперименте на конкретно заданный номер
, мала.
В качестве примера рассмотрим вероятностное пространство , вероятность - мера Лебега (т.е. вероятность любого интервала равна его длине). Случайные величины зададим следующим образом: для первых двух
разбиваем
на два интервала
и
и определяем
равной 1 на первом интервале и 0 на втором, а
- наоборот, 0 на первом интервале и 1 на втором. Далее берем следующие четыре величины
, делим
на четыре непересекающихся интервала длины
и задаем каждую величину равной 1 на своем интервале и 0 на остальных. Затем рассматриваем следующие 8 величин, делим
на 8 интервалов и т.д.
В результате для каждого элементарного исхода последовательность значений имеет вид:
последовательность состоит из серий длин , причем в каждой серии на каком-либо одном месте (зависящем от выбранного элементарного исхода) стоит значение 1, а на остальных местах - нули.
Случайные величины, входящие в серию с номером (длины
) принимают значение 1 с вероятностью
и значение 0 с вероятностью
. Из основного определения следует, что данная последовательность сходится по вероятности к случайной величине
. При этом ни при одном значении
последовательность значений
не сходится к
, так как в любой последовательности значений сколь угодно далеко обязательно находятся отстоящие от 0 значения. Однако поскольку длины серий неограниченно возрастают, то вероятность "попасть" на это значение становится сколь угодно малой при выборе элемента последовательности с достаточно большим номером.
Заметим, что вместо значения 1 можно выбрать любое другое (в том числе как угодно быстро возрастающее с ростом ), и тем самым сделать последовательность математических ожиданий
произвольной (в том числе неограниченной). Данный пример показывает, что сходимость по вероятности не влечет сходимости математических ожиданий (равно как и любых других моментов).
Более сильный вид сходимости, который обеспечивает сходимость последовательностей значений к предельному - сходимость почти всюду.
Литература
- Биллингсли П. Сходимость вероятностных мер. — пер. с англ. — М.: Наука, 1977.
- Ширяев А.Н. Вероятность. — М.: МЦНМО, 2004.