Мультиномиальное распределение с упорядоченными элементами подмножеств

Материал из MachineLearning.

(Различия между версиями)
Перейти к: навигация, поиск
(→Особенности данного распределения)
(→Принцип получения математического ожидания мультиномиального распределения с упорядоченными элементами подмножеств)
Строка 646: Строка 646:
== Принцип получения математического ожидания мультиномиального распределения с упорядоченными элементами подмножеств==
== Принцип получения математического ожидания мультиномиального распределения с упорядоченными элементами подмножеств==
-
Математическое ожидание как глобальный максимум вероятностей мультиномиального распределения с упорядоченными элементами подмножеств находится из тех же соображений, что и глобальный максимум любого полиномиального распределения, а именно, чем меньше знаменатель мультиномиального коэффициента, тем больше вероятность. Отсюда в искомом наборе должны присутствовать выборки объёмами 0 и 1, а сам набор должен быть как можно большего размера с тем, чтобы разместить в нём как можно больше нулевых и единичных выборок.
+
Математическое ожидание как глобальный максимум вероятностей мультиномиального распределения с упорядоченными элементами подмножеств находится из тех же соображений, что и глобальный максимум любого мультиномиального распределения, а именно, чем меньше знаменатель мультиномиального коэффициента, тем больше вероятность. Отсюда в искомом наборе должны присутствовать выборки объёмами 0 и 1, а сам набор должен быть как можно большего размера с тем, чтобы разместить в нём как можно больше нулевых и единичных выборок.
В общем случае из-за наличия нулевых выборок это выполнить невозможно без добавления выборок большего объёма. Такими могут быть только выборки с объёмами по два элемента исходного множества. Следовательно, выборками объёмами 0, 1 и 2 элемента можно описать любой набор максимального размера, и глобальный максимум вероятностей различимых наборов необходимо искать в наборах, в которых имеются три группы выборок с объёмами 0, 1 и 2 элементов (см.таблицу 2, 3-ю строку сверху). Единственное исключение составляет случай биномиального распределения. Его набор можно заполнить только одними единицами: 11.
В общем случае из-за наличия нулевых выборок это выполнить невозможно без добавления выборок большего объёма. Такими могут быть только выборки с объёмами по два элемента исходного множества. Следовательно, выборками объёмами 0, 1 и 2 элемента можно описать любой набор максимального размера, и глобальный максимум вероятностей различимых наборов необходимо искать в наборах, в которых имеются три группы выборок с объёмами 0, 1 и 2 элементов (см.таблицу 2, 3-ю строку сверху). Единственное исключение составляет случай биномиального распределения. Его набор можно заполнить только одними единицами: 11.
-
В первом приближении группы двоек, единиц и нулей принимаются равными. Максимальная длина набора делится на 3. При этом, если число делится на 3 с остатком, то остаток добавляется в группу единиц. Например, в таблице 2 число случайных величин (восемь) на три делится с остатком (<math>\frac{n}{3}=\frac{8}{3}\approx2,667</tex>). Получается две группы по две двойки и по два нуля, а оставшаяся группа будет содержать четыре единицы: <math>22111100 </tex>, поскольку 1!=1. Соответственно глобальный максимум вероятностей будет <math> k_{n=8}=0,252</tex> (таблица 3, 3-я строка сверху).
+
В первом приближении группы двоек, единиц и нулей принимаются равными. Максимальная длина набора делится на 3. При этом, если число делится на 3 с остатком, то остаток добавляется в группу единиц. Например, в таблице 2 число случайных величин (восемь) на три делится с остатком (<tex>\frac{n}{3}=\frac{8}{3}\approx2,667</tex>). Получается две группы по две двойки и по два нуля, а оставшаяся группа будет содержать четыре единицы: <tex>22111100 </tex>, поскольку 1!=1. Соответственно глобальный максимум вероятностей будет <tex> k_{n=8}=0,252</tex> (таблица 3, 3-я строка сверху).
==Литература==
==Литература==

Версия 07:34, 8 сентября 2015

Содержание

Мультиномиальное распределение с упорядоченными элементами подмножеств

Особенности данного распределения

1. Мультиномиальное распределение с упорядоченными элементами подмножеств (левая часть таблицы 1 и таблица 2) имеет место, когда его подмножества различимы только местоположением элементов в них. В общепринятом понимании мультиномиальное распределение — это мультиномиальное распределение с упорядоченными подмножествами, а именно, то распределение, в котором учитывается только порядок следования самих подмножеств, но не учитывается порядок следования элементов в каждом подмножестве (таблица 3).

Номер Различимые элементы Наразличимые элементы
Комбинации Вероятность различимой комбинации Неразличимая комбинация Вероятность неразличимой комбинации
1 a c e
2 a e c
3 c a e 0,01333... * * * 0,08
4 c e a
5 e a c
6 e c a
Таблица 1 – Возможные комбинации трёх различимых и неразличимых элементов, их вероятности
Значения восьми случайных величин Знаменатель вероятности Вероятность распределения Дисперсия распределения Экстремумы распределения
1 1 1 1 1 1 1 1 8!×1! 0,240×10-2 3,937 1-й локальный максимум
2 1 1 1 1 1 1 0 6!×2! 0,673×10-1 3,172 1-й локальный минимум
2 2 1 1 1 1 0 0 2!4!2!×2!2! 0,252 2,625 Математическое ожидание (второй локальный максимум)
2 2 2 1 1 0 0 0 3!2!3!×2!2!2! 0,168 2,297
2 2 2 2 0 0 0 0 4!4!×2!2!2!2! 0,150×10-3 2,187 2-й локальный минимум
3 1 1 1 1 1 0 0 5!2!×3! 0.400×10-3 2,516 3-й локальный максимум
3 2 1 1 1 0 0 0 2!4!×3!2!2! 0,200×10-3 2,078
3 2 2 1 0 0 0 0 2!5!×313121 0,100×10-3 1,859
3 3 2 1 0 0 0 0 4!3!×4! 0,334×10-4 1,641 3-й локальный минимум
4 1 1 1 1 0 0 0 2!4!×4!2! 0,100×10-3 1,969 4-й локальный максимум
4 2 1 1 0 0 0 0 2!5!×4!2!2! 0,500×10-4 1,641
4 2 2 0 0 0 0 0 5!×4!3! 0,250×10-4 1,531
4 2 2 0 0 0 0 0 5!×4!3! 0,250×10-4 1,531
4 3 1 0 0 0 0 0 6!×4!4! 0,167×10-5 1,422
4 4 0 0 0 0 0 0 2!4!×3!2!3! 0,417×10-5 1,312 4-й локальный минимум
5 1 1 1 0 0 0 0 3!4!×5! 0,200×10-4 1,531 5-й локальный максимум
5 2 1 0 0 0 0 0 5!×5!2! 0,100×10-4 1,312
5 3 0 0 0 0 0 0 6!×5!3! 0,334×10-5 1,203
6 1 1 0 0 0 0 0 2!5!×6! 10-5 1,203
6 2 0 0 0 0 0 0 6!×6!2! 0,167×10-5 1,094
7 1 0 0 0 0 0 0 6!×7! 0,477×10-6 0,984
8 0 0 0 0 0 0 0 7!×8! 0,596×10-7 0,875
Таблица 2 – Локальные экстремумы мультиномиального распределения с упорядоченными элементами подмножеств
Значения восьми случайных величин Знаменатель вероятности Вероятность распределения Дисперсия распределения Экстремумы распределения
1 1 1 1 1 1 1 1 8!×1! 0,240×10-2 3,937 Математическое ожидание
2 1 1 1 1 1 1 0 6!×2! 0,120×10-2 3,172
2 2 1 1 1 1 0 0 2!4!2!×2!2! 0,600×10-3 2,625
2 2 2 1 1 0 0 0 3!2!3!×2!2!2! 0,300×10-3 2,297
2 2 2 2 0 0 0 0 4!4!×2!2!2!2! 0,150×10-3 2,187 1-й локальный минимум
3 1 1 1 1 1 0 0 5!2!×3! 0.400×10-3 2,516 1-й локальный максимум
3 2 1 1 1 0 0 0 2!4!×3!2!2! 0,200×10-3 2,078
3 2 2 1 0 0 0 0 2!5!×313121 0,100×10-3 1,859
3 3 2 1 0 0 0 0 4!3!×4! 0,334×10-4 1,641 2-й локальный минимум
4 1 1 1 1 0 0 0 2!4!×4!2! 0,100×10-3 1,969 2-й локальный максимум
4 2 1 1 0 0 0 0 2!5!×4!2!2! 0,500×10-4 1,641
4 2 2 0 0 0 0 0 5!×4!3! 0,250×10-4 1,531
4 2 2 0 0 0 0 0 5!×4!3! 0,250×10-4 1,531
4 3 1 0 0 0 0 0 6!×4!4! 0,167×10-5 1,422
4 4 0 0 0 0 0 0 2!4!×3!2!3! 0,417×10-5 1,312 3-й локальный минимум
5 1 1 1 0 0 0 0 3!4!×5! 0,200×10-4 1,531 3-й локальный максимум
5 2 1 0 0 0 0 0 5!×5!2! 0,100×10-4 1,312
5 3 0 0 0 0 0 0 6!×5!3! 0,334×10-5 1,203
6 1 1 0 0 0 0 0 2!5!×6! 10-5 1,203
6 2 0 0 0 0 0 0 6!×6!2! 0,167×10-5 1,094
7 1 0 0 0 0 0 0 6!×7! 0,477×10-6 0,984
8 0 0 0 0 0 0 0 7!×8! 0,596×10-7 0,875
Таблица 3 – Локальные экстремумы математического ожидания полииномиального распределения с упорядоченными подмножествами

2. В данном распределении не выполняются технические задачи и технические результаты, принятые и описанные в [1] для общепринятого мультиномиального распределения с упорядоченными подмножествами.

3. Отсутствует однозначность между номером случайной величины полиномиального распределения и её числовым значением.

4. Дисперсия данного мультиномиального распределения не зависит от различимости элементов его подмножеств и совпадает с дисперсией обычного мультиномиального распределения (с различимыми подмножествами).

Общий и частный случаи мультиномиального распределения с упорядоченными элементами подмножеств

Общий случай полиномиального распределения с упорядоченными элементами подмножеств имеет место, когда одно и более подмножеств содержит хотя бы одну выборку объёмом не менее двух элементов.

Частный случай этого распределения имеет место, когда выборки различимы между собой и принимают нулевые и/или единичные значения, а число выборок не меньше числа случайных величин распределения.

Принцип получения вероятностей мультиномиального распределения с упорядоченными элементами подмножеств

В основу получения вероятностей этого распределения положен алгоритм Феллера, суть которого изложен на с.60 [1].

Произвольный исходный набор, например, 22111100 (таблица 2, 3-я строка сверху), разбивается на три группы, в каждой из которых выборки равных объёмов, а именно: 22, 1111 и 00 (2, 4 и 2). Такое разбиение может быть выполнено <math>\frac{8!}{2!4!2!}=420</tex> способами. Каждому из этих 420-ти различимых наборов соответствует вероятность <math>\frac{8!}{2!2!}8^{-8}=0,000600</tex>. Общая вероятность 420-ти различимых наборов (из исходного набора 22111100) составит <math>\frac{8!}{2!2!}8^{-8}\frac{8!}{2!4!2!}=0,252432222</tex>. Аналогично рассчитываются вероятности для всех других наборов таблицы 3. Жирным шрифтом в таблицах 3 и 4 выделены максимумы, косым шрифтом - минимумы.

Принцип получения математического ожидания мультиномиального распределения с упорядоченными элементами подмножеств

Математическое ожидание как глобальный максимум вероятностей мультиномиального распределения с упорядоченными элементами подмножеств находится из тех же соображений, что и глобальный максимум любого мультиномиального распределения, а именно, чем меньше знаменатель мультиномиального коэффициента, тем больше вероятность. Отсюда в искомом наборе должны присутствовать выборки объёмами 0 и 1, а сам набор должен быть как можно большего размера с тем, чтобы разместить в нём как можно больше нулевых и единичных выборок.

В общем случае из-за наличия нулевых выборок это выполнить невозможно без добавления выборок большего объёма. Такими могут быть только выборки с объёмами по два элемента исходного множества. Следовательно, выборками объёмами 0, 1 и 2 элемента можно описать любой набор максимального размера, и глобальный максимум вероятностей различимых наборов необходимо искать в наборах, в которых имеются три группы выборок с объёмами 0, 1 и 2 элементов (см.таблицу 2, 3-ю строку сверху). Единственное исключение составляет случай биномиального распределения. Его набор можно заполнить только одними единицами: 11.

В первом приближении группы двоек, единиц и нулей принимаются равными. Максимальная длина набора делится на 3. При этом, если число делится на 3 с остатком, то остаток добавляется в группу единиц. Например, в таблице 2 число случайных величин (восемь) на три делится с остатком (\frac{n}{3}=\frac{8}{3}\approx2,667). Получается две группы по две двойки и по два нуля, а оставшаяся группа будет содержать четыре единицы: 22111100 , поскольку 1!=1. Соответственно глобальный максимум вероятностей будет k_{n=8}=0,252 (таблица 3, 3-я строка сверху).

Литература


См. также

Источник — «http://machinelearning.ru/wiki/index.php?title=%D0%9C%D1%83%D0%BB%D1%8C%D1%82%D0%B8%D0%BD%D0%BE%D0%BC%D0%B8%D0%B0%D0%BB%D1%8C%D0%BD%D0%BE%D0%B5_%D1%80%D0%B0%D1%81%D0%BF%D1%80%D0%B5%D0%B4%D0%B5%D0%BB%D0%B5%D0%BD%D0%B8%D0%B5_%D1%81_%D1%83%D0%BF%D0%BE%D1%80%D1%8F%D0%B4%D0%BE%D1%87%D0%B5%D0%BD%D0%BD%D1%8B%D0%BC%D0%B8_%D1%8D%D0%BB%D0%B5%D0%BC%D0%B5%D0%BD%D1%82%D0%B0%D0%BC%D0%B8_%D0%BF%D0%BE%D0%B4%D0%BC%D0%BD%D0%BE%D0%B6%D0%B5%D1%81%D1%82%D0%B2»
Личные инструменты