Функция распределения случайной величины

Материал из MachineLearning.

Версия от 20:00, 14 июля 2026; Kamilia Gibadullina (Обсуждение | вклад)
(разн.) ← Предыдущая | Текущая версия (разн.) | Следующая → (разн.)
Перейти к: навигация, поиск

Содержание

Функция распределения случайной величины

Функция распределения случайной величины — один из основных способов описания распределения вероятностей. Она показывает, с какой вероятностью значение случайной величины окажется не больше заданного числа.

Интуитивно функцию распределения можно рассматривать как функцию, которая последовательно накапливает вероятность слева направо по числовой прямой. При очень малых значениях аргумента накопленная вероятность близка к нулю, а при достаточно больших — приближается к единице.

Определение

Пусть X — случайная величина. Её функцией распределения называется функция

F_X(x)=P(X\leq x).

Здесь:

  • X — случайная величина;
  • x — произвольное действительное число;
  • F_X(x) — вероятность того, что случайная величина X примет значение, не превосходящее x;
  • P обозначает вероятность события.

Например, равенство F_X(3)=0{,}8 означает, что вероятность события X\leq 3 равна 0{,}8.

Функция распределения существует у любой случайной величины и полностью определяет её вероятностное распределение.

Основные свойства

Любая функция распределения обладает следующими свойствами.

  • Для каждого x\in\mathbb{R} выполняется

0\leq F_X(x)\leq 1.

Это следует из того, что функция распределения является вероятностью некоторого события, а вероятность всегда находится между нулём и единицей.

  • Функция F_X(x) не убывает. Если x_1<x_2, то

F_X(x_1)\leq F_X(x_2).

Действительно, событие {X\leq x_1} содержится в событии {X\leq x_2}. При увеличении границы x к рассматриваемому событию могут добавляться новые возможные значения случайной величины, поэтому вероятность не может уменьшиться.

  • Функция распределения непрерывна справа:

\lim_{t\to x+0}F_X(t)=F_X(x).

Это означает, что значения функции в точках, приближающихся к x справа, стремятся к значению функции в самой точке x.

  • На левом конце числовой прямой функция распределения стремится к нулю:

\lim_{x\to-\infty}F_X(x)=0.

При достаточно малом x событие X\leq x становится всё менее вероятным.

  • На правом конце числовой прямой функция распределения стремится к единице:

\lim_{x\to+\infty}F_X(x)=1.

При достаточно большом x событие X\leq x охватывает почти все возможные значения случайной величины.

Вычисление вероятностей

С помощью функции распределения можно находить вероятности попадания случайной величины в различные промежутки. Например, для a<b

P(a<X\leq b)=F_X(b)-F_X(a).

Функция F_X(b) содержит вероятность всех значений, не превосходящих b. После вычитания F_X(a) остаётся вероятность значений, которые больше a, но не превосходят b.

Вероятность принятия отдельного значения определяется величиной скачка функции распределения в соответствующей точке:

P(X=x)=F_X(x)-F_X(x-0),

где

F_X(x-0)=\lim_{t\to x-0}F_X(t)

— левый предел функции распределения в точке x.

Если функция распределения непрерывна в точке x, то скачок отсутствует и P(X=x)=0.

Примеры

Распределение Бернулли

Рассмотрим дискретную случайную величину X, имеющую распределение Бернулли:

P(X=1)=p,\qquad P(X=0)=1-p,

где 0\leq p\leq 1.

Случайная величина может принимать только два значения: 0 и 1. Её функция распределения имеет вид

F_X(x)= \begin{cases} 0, & x<0,\\ 1-p, & 0\leq x<1,\\ 1, & x\geq 1. \end{cases}

Если x<0, то ни одно из возможных значений случайной величины не удовлетворяет условию X\leq x, поэтому вероятность равна нулю.

При 0\leq x<1 условию X\leq x удовлетворяет только значение X=0. Следовательно,

F_X(x)=P(X=0)=1-p.

При x\geq 1 учитываются оба возможных значения, поэтому функция распределения равна единице.

График функции имеет скачки в точках 0 и 1. Величина скачка в точке 0 равна 1-p, а в точке 1 — p. Эти величины совпадают с вероятностями соответствующих значений случайной величины.

Равномерное распределение на отрезке

Пусть X имеет равномерное распределение на отрезке [0,1]. Все промежутки одинаковой длины внутри этого отрезка имеют одинаковую вероятность.

Функция распределения имеет вид

F_X(x)= \begin{cases} 0, & x<0,\\ x, & 0\leq x\leq 1,\\ 1, & x>1. \end{cases}

При x<0 случайная величина не может принять значение, не превосходящее x. При 0\leq x\leq 1 вероятность события X\leq x равна длине отрезка [0,x], то есть x. При x>1 событие X\leq x происходит с вероятностью единица.

В этом примере функция распределения непрерывна и не имеет скачков. Поэтому вероятность принятия любого отдельно взятого значения равна нулю:

P(X=x)=0.

Это не означает, что случайная величина не принимает никаких значений. Положительную вероятность имеют промежутки, содержащие бесконечно много возможных значений. Например,

P(0{,}2<X\leq 0{,}7)=F_X(0{,}7)-F_X(0{,}2)=0{,}5.

Связь с плотностью распределения

Для дискретной случайной величины функция распределения строится суммированием вероятностей всех значений, не превосходящих x:

F_X(x)=\sum_{x_k\leq x}P(X=x_k),

где x_k — возможные значения случайной величины.

Для абсолютно непрерывной случайной величины функция распределения связана с плотностью распределения p_X(x) формулой

F_X(x)=\int_{-\infty}^{x}p_X(t)\,dt.

Таким образом, функция распределения показывает накопленную площадь под графиком плотности от -\infty до точки x.

Если функция распределения дифференцируема, то плотность можно найти как её производную:

p_X(x)=F_X'(x).

Не у каждой случайной величины существует плотность. Например, дискретное распределение обычно задаётся вероятностями отдельных значений, а его функция распределения имеет скачки. Однако функция распределения существует для любой случайной величины и полностью определяет её распределение.

Применение

Функция распределения используется для вычисления вероятностей событий и нахождения характеристик распределения. С её помощью определяются квантили, в том числе медиана, разделяющая распределение на две части.

В математической статистике по наблюдаемой выборке строится Эмпирическая функция распределения. Она показывает долю наблюдений, не превосходящих заданного значения, и служит приближением неизвестной теоретической функции распределения.

Сравнение теоретических и эмпирических функций распределения применяется для проверки статистических гипотез и оценки соответствия выбранной вероятностной модели данным. В анализе данных и машинном обучении функции распределения используются при исследовании ошибок модели, выборе порогов классификации, преобразовании признаков, оценке вероятностей редких событий и сравнении результатов работы различных моделей.

См. также

Литература

  • Гнеденко Б. В. Курс теории вероятностей. — Либроком, 2011.
  • Ширяев А. Н. Вероятность. — МЦНМО, 2007.
  • Боровков А. А. Теория вероятностей. — Едиториал УРСС, 2003.
  • Feller W. An Introduction to Probability Theory and Its Applications. — Wiley, 1968.
  • Wasserman L. All of Statistics: A Concise Course in Statistical Inference. — Springer, 2004.
Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%A4%D1%83%D0%BD%D0%BA%D1%86%D0%B8%D1%8F_%D1%80%D0%B0%D1%81%D0%BF%D1%80%D0%B5%D0%B4%D0%B5%D0%BB%D0%B5%D0%BD%D0%B8%D1%8F_%D1%81%D0%BB%D1%83%D1%87%D0%B0%D0%B9%D0%BD%D0%BE%D0%B9_%D0%B2%D0%B5%D0%BB%D0%B8%D1%87%D0%B8%D0%BD%D1%8B»