Многомерное нормальное распределение

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(Новая: '''Многоме́рное норма́льное распределе́ние''' (или '''многоме́рное га́уссовское распределе́ние''') в [[Те...)
(Полностью удалено содержимое страницы)
Строка 1: Строка 1:
-
'''Многоме́рное норма́льное распределе́ние''' (или '''многоме́рное га́уссовское распределе́ние''') в [[Теория вероятностей|теории вероятностей]] — это обобщение [[Нормальное распределение|одномерного нормального распределения]].
 
-
== Определения ==
 
-
 
-
[[Случайный вектор]] <tex>\mathbf{X} = (X_1,\ldots, X_n)^{\top}: \Omega \to \mathbb{R}^n</tex> имеет многомерное нормальное распределение, если выполняется одно из следующих эквивалентных условий:
 
-
 
-
* Произвольная [[линейная комбинация]] компонентов вектора <tex>\sum\limits_{i=1}^n a_i X_i</tex> имеет нормальное распределение или является константой.
 
-
* Существует вектор независимых [[Нормальное распределение|стандартных нормальных случайных]] величин <tex>\mathbf{Z}=(Z_1,\ldots, Z_m)^{\top}</tex>, вещественный вектор <tex>\mathbf{\mu} = (\mu_1,\ldots, \mu_m)^{\top}</tex> и [[Матрица (математика)|матрица]] <tex>\mathbf{A}</tex> размерности <tex>n \times m</tex>, такие что:
 
-
: <tex>\mathbf{X} = \mathbf{A} \mathbf{Z} + \mathbf{\mu}</tex>.
 
-
* Существует вектор <tex>\mathbf{\mu} \in \mathbb{R}^n</tex> и [[Положительно определённая матрица|неотрицательно определённая]] симметричная матрица <tex>\mathbf{\Sigma}</tex> размерности <tex>n \times n</tex>, такие что [[плотность вероятности]] вектора <tex>\mathbf{X}</tex> имеет вид:
 
-
: <tex>f_{\mathbf{X}}(\mathbf{x}) = \frac{1}{(2\pi )^{n/2} | \Sigma |^{1/2}} e^{-\frac{1}{2}(\mathbf{x} - \mathbf{\mu})^{\top} \Sigma^{-1} (\mathbf{x} - \mathbf{\mu})},\; \mathbf{x} \in \mathbb{R}^n</tex>,
 
-
где <tex>| \Sigma | </tex> — определитель матрицы <tex>\Sigma</tex>, а <tex>\Sigma^{-1}</tex> — матрица [[Обратная матрица|обратная]] к <tex>\Sigma</tex>.
 
-
* Существует вектор <tex>\mathbf{\mu} \in \mathbb{R}^n</tex> и неотрицательно определённая симметричная матрица <tex>\mathbf{\Sigma}</tex> размерности <tex>n \times n</tex>, такие что [[Характеристическая функция случайной величины|характеристическая функция]] вектора <tex>\mathbf{X}</tex> имеет вид:
 
-
: <tex>\phi_{\mathbf{X}}(\mathbf{u}) = e^{i \mathbf{\mu}^{\top} \mathbf{u} - \frac{1}{2}\mathbf{u}^{\top} \Sigma \mathbf{u}},\; \mathbf{u} \in \mathbb{R}^n</tex>.
 
-
 
-
== Замечания ==
 
-
 
-
* Если одно из приведённых выше определений принято в качестве основного, то другие выводятся в качестве [[Теорема|теорем]].
 
-
* Вектор <tex>\mathbf{\mu}</tex> является вектором [[Математическое ожидание|средних значений]] <tex>\mathbf{X}</tex>, а <tex>\Sigma</tex> — его [[ковариационная матрица]].
 
-
* В случае <tex>n = 1</tex>, многомерное нормальное распределение сводится к обычному нормальному распределению.
 
-
* Если случайный вектор <tex>\mathbf{X}</tex> имеет многомерное нормальное распределение, то пишут <tex>\mathbf{X} \sim \mathrm{N}(\mathbf{\mu},\Sigma)</tex>.
 
-
 
-
== Свойства многомерного нормального распределения ==
 
-
 
-
* Если вектор <tex>\mathbf{X} = (X_1,\ldots, X_n)^{\top}</tex> имеет многомерное нормальное распределение, то его компоненты <tex>X_i, i=1,\ldots, n,</tex> имеют одномерное нормальное распределение. Обратное, вообще говоря, неверно!
 
-
* Если случайные величины <tex>X_1,\ldots,X_n</tex> имеют одномерное нормальное распределение и совместно [[Независимость (теория вероятностей)|независимы]], то случайный вектор <tex>\mathbf{X} = (X_1,\ldots, X_n)^{\top}</tex> имеет многомерное нормальное распределение. Матрица ковариаций <tex>\Sigma</tex> такого вектора диагональна.
 
-
* Если <tex>\mathbf{X} = (X_1,\ldots, X_n)^{\top}</tex> имеет многомерное нормальное распределение, и его компоненты попарно [[Корреляция|некоррелированы]], то они независимы. Однако, если только компоненты <tex>X_i,\; i = 1 , \ldots, n</tex> имеют одномерное нормальное распределение и попарно не коррелируют, то отсюда ''не'' следует, что они независимы.
 
-
 
-
: '''Контрпример.''' Пусть <tex>X \sim \mathrm{N}(0,1)</tex>, а <tex>\alpha = \pm 1</tex> с равными вероятностями. Тогда если <tex>Y = \alpha X \sim \mathrm{N}(0,1)</tex>, то корреляция <tex>X</tex> и <tex>Y</tex> равна нулю. Однако, эти случайные величины зависимы.
 
-
* Многомерное нормальное распределение [[Устойчивое распределение|устойчиво]] относительно [[Линейный оператор|линейных преобразований]]. Если <tex>\mathbf{X} \sim \mathrm{N}(\mathbf{\mu},\Sigma)</tex>, а <tex>\mathbf{A}</tex> — произвольная матрица размерности <tex>m \times n</tex>, то
 
-
: <tex>\mathbf{A}\mathbf{X} \sim \mathrm{N}\left(\mathbf{A}\mathbf{\mu},\mathbf{A}\Sigma \mathbf{A}^{\top}\right)</tex>.
 

Версия 14:34, 19 ноября 2009

Личные инструменты