Идут технические работы! Возможны перебои с доступом к сайту!

Викизнание:Песочница

Из проекта Викизнание



Оглавление

Схема Бернулли

Последовательность \{X_n\}_{n=1}^{\infty} независимых случайных величин, имеющих распределение Бернулли, называется схемой Бернулли. Физически схема Бернулли моделирует многократное проведение независимых реализаций одного и того же случайного эксперимента с двумя исходами: успех и неудача. Случайное событие {Xi = 1} соответствует успеху в результате i-го испытания, а событие {Xi = 0} соответствует неудаче. Так весьма грамотно изложена схема Бернулли в ru.math.wikia.com/wiki/Распределение_Бернулли.

Наконец-то появился луч света в тёмном царстве. До этого бытовало невежество, согласно которому схема Бернулли и биномиальная схема это одно и то же.

СМ., например, http://wiki.bks-tv.ru/wiki/Обсуждение: Биномиальное_ распределение,

http://cito-web.yspu.org/link1/metod/theory/node11.htm.

А ноги растут, в частности, от последней российской печатной энциклопедии [1]:

БИНОМИАЛЬНОЕ РАСПРЕДЕЛЕНИЕ (binomial distribution), распределение Бернулли , — дискретное распределение вероятностей случайной величины X, принимающей целочисленные значения k=0,1,2,\ldots,n с вероятностями

p_k=P(X=k)=b_k(n,p)=C_n^kp^k(1-p)^{n-k}

соответственно, где p — параметр Б. р., называемый вероятностью положительного исхода, 0 \le p\le 1 . Б. р.— одно из основных распределение вероятностей, связанных с последовательностью независимых испытаний...

В том виде, в котором изложены оба распределения, под одну и ту же формулировку подпадает одновременно два распределения: Бернулли распределение и биномиальное распределение , что недопустимо и несправедливо.

Литература

1.Большев Л. Н. Биномиальное распределение. Вероятность и математическая статистика: Энциклопедия / Гл. ред. Ю. В. Прохоров. – М.: Большая Российская энциклопедия, 1999, - С. 49-50. ISBN 5-85270265-X

См. также

Литература

<references />

1. История математики, т. 2. Математика XV11 века. М.: Наука, 1970, 300 С.

2. Буняковский В. Я. ОСНОВАНИЯ МАТЕМАТИЧЕСКОЙ ТЕОРИИ ВЕРОЯТНОСТЕЙ сочинение В. Я. БУНЯКОВСКОГО, ИМПЕРАТОРСКОЙ АКАДЕМИИ НАУК, ОРДИНАРНОГО АКАДЕМИКА, ПРОФЕССРА С. ПЕТЕРБУРГСКОГО УНИВЕРСИТЕТА, ДОКТОРА МАТЕМАТИЧЕСКИХ НАУК ПАРИЖСКОЙ АКАДЕМИИ. САНКТПЕТЕРБУРГ. В Типографии Императорской Академии Наук. 1846. 477 с.

3. Биномиальное распределение. Математический энциклопедический словарь./Гл. ред. Ю. В Прохоров; Ред. кол. С. И. Адян, Н. С. Бахвалов, В. И. Батюцков, А. П. Ершов, Л. Д. Кудрявцев, А. Л. Онищик, А. П. Юшкевич. - М.: Сов. энциклопедия, 1988. С.95.

4. Большев Л. Н. Биномиальное распределение. Вероятность и математическая статистика: Энциклопедия /Гл. ред. Ю. В. Прохоров.- М.: Большая Российская энциклопедия, 1999. С. 49-50. ISBN 5-85270-265-X


Распределение биномиальной выборки

Биномиальная выборка (binomial sample) — статистическая выборка, каждый элемент которой отобран с равной вероятностью.

Пространство элементарных событий распределения биномиальной выборки содержит одну выборку различимых неупорядоченных элементов, объём которой n_i,\quad i=1,\ldots,n может лежать в пределах от нуля до положительного конечного числа элементов n\quad(n_i=n_n=n) включительно

0\le n_i\le n<\infty.

Вероятность распределения биномиальной выборки объёмом n_i,\quad i=1,\ldots,n элементов равна

P(n_i)= {n\choose n_i} p_i={n\choose n_i}2^{-n},

где P(ni) — вероятность произвольного выбора n _i,\quad i=1,\ldots,n элементов из n возможных с вероятностью p_i=2^{-n},\quad i=1,\ldots,n каждого из них;

\sum^n_0{{n}\choose{n_i}}=2^n

— общее число всевозможных выборок объемом n_i,\quad i=1,\ldots,n различимых неупорядоченных элементов;

сумма всех вероятностей распределения биномиальной выборки равна единице, что рассматривают как выполнение условия нормирования вероятностей согласно второй аксиоме аксиоматики Колмогорова

\sum_{n_i=0}^{n_i=n}P(n_i)= \sum_{n_i=0}^{n_i=n}{{n\choose n_i} p_i}=\sum_{n_i=0}^{n_i=n}{n\choose n_i}2^{-n}=1.

Математическое ожидание распределения биномиальной выборки

P(n_i)_{max}=\frac {n!}{0,5n!}2^{-n}.

Математическое ожидание биномиальной выборки

M(n_i)=0,5n,\quad  i=1,\ldots,n

имеет место, когда объем выборки равен половине элементов исходного nмножества.

Дисперсия распределения биномиальной выборки

D(n_i)= p_i(1-p_i), \quad  i=1,\ldots,n.

совпадает с дисперсией Бернулли распределения .

Свойства распределения биномиальной выборки

1. Вероятность биномиальной выборки является симметричной функцией относительно своего математического ожидания.

2. С ростом числа элементов степень отклонения случайно определенных теоретических параметров от их реальных значений практически сводится к нулю;

Некоторые примеры практического применения распределения биномиальной выборки

1. Если в ходе боевых действий артиллерийская батарея потеряет управление (например, командира) и вынуждена случайным образом вести обстрел, то с наибольшей вероятностью она будет вести залповой огонь одновременно с половины орудий, имеющихся у нею в наличии.

2. Если происходит ограбление банка и/или кассы супермаркета, при котором равновероятными случайными события является весь спектр возможных случаев от неудачного до полного ограбления, то чаще всего будет украдена половина имеющейся в наличии суммы денег.

3. Если происходит отлов ценных пород рыб или отстрел редких и/или ценных диких животных, то в результате с наибольшей вероятностью останутся половины интересующих нас популяций. Это дает научно обоснованные сведения для принятия решений на выдачу квот на отлов и/или отстрел.

См.также


ПОЛИНОМИАЛЬНОЕ РАСПРЕДЕЛЕНИЕ С УПОРЯДОЧЕННЫМИ ЭЛЕМЕНТАМИ ПОДМНОЖЕСТВ (эта статья не окончена!!!)

Определение и его особенности

Полиномиальное распределение с упорядоченными элементами подмножеств (левая часть таблицы 1 и таблица 2) имеет место, когда его подмножества различимы только местоположением элементов в них.

Полиномиальное распределение в принятом понимании — это полиномиальное распределение с упорядоченными подмножествами, а именно, то распределение, в котором учитывается только порядок следования самих подмножеств, но не учитывается порядок следования элементов в каждом подмножестве (таблица 3).

Номер Различимые элементы Наразличимые элементы
Комбинации Вероятность различимой комбинации Неразличимая комбинация Вероятность неразличимой комбинации
1 a c e
2 a e c
3 c a e 0,01333... * * * 0,08
4 c e a
5 e a c
6 e c a
Таблица 1 – Возможные комбинации трёх различимых и неразличимых элементов, их вероятности


Значения восьми случайных величин Знаменатель вероятности Вероятность распределения Дисперсия распределения Экстремумы распределения
1 1 1 1 1 1 1 1 8!×1! 0,240×10-2 3,937 1-й локальный максимум
2 1 1 1 1 1 1 0 6!×2! 0,673×10-1 3,172 1-й локальный минимум
2 2 1 1 1 1 0 0 2!4!2!×2!2! 0,252 2,625 Математическое ожидание (второй локальный максимум)
2 2 2 1 1 0 0 0 3!2!3!×2!2!2! 0,168 2,297
2 2 2 2 0 0 0 0 4!4!×2!2!2!2! 0,150×10-3 2,187 2-й локальный минимум
3 1 1 1 1 1 0 0 5!2!×3! 0.400×10-3 2,516 3-й локальный максимум
3 2 1 1 1 0 0 0 2!4!×3!2!2! 0,200×10-3 2,078
3 2 2 1 0 0 0 0 2!5!×313121 0,100×10-3 1,859
3 3 2 1 0 0 0 0 4!3!×4! 0,334×10-4 1,641 3-й локальный минимум
4 1 1 1 1 0 0 0 2!4!×4!2! 0,100×10-3 1,969 4-й локальный максимум
4 2 1 1 0 0 0 0 2!5!×4!2!2! 0,500×10-4 1,641
4 2 2 0 0 0 0 0 5!×4!3! 0,250×10-4 1,531
4 2 2 0 0 0 0 0 5!×4!3! 0,250×10-4 1,531
4 3 1 0 0 0 0 0 6!×4!4! 0,167×10-5 1,422
4 4 0 0 0 0 0 0 2!4!×3!2!3! 0,417×10-5 1,312 4-й локальный минимум
5 1 1 1 0 0 0 0 3!4!×5! 0,200×10-4 1,531 5-й локальный максимум
5 2 1 0 0 0 0 0 5!×5!2! 0,100×10-4 1,312
5 3 0 0 0 0 0 0 6!×5!3! 0,334×10-5 1,203
6 1 1 0 0 0 0 0 2!5!×6! 10-5 1,203
6 2 0 0 0 0 0 0 6!×6!2! 0,167×10-5 1,094
7 1 0 0 0 0 0 0 6!×7! 0,477×10-6 0,984
8 0 0 0 0 0 0 0 7!×8! 0,596×10-7 0,875
Таблица 2 – Локальные экстремумы полиномиального распределения с упорядоченными элементами подмножеств


Значения восьми случайных величин Знаменатель вероятности Вероятность распределения Дисперсия распределения Экстремумы распределения
1 1 1 1 1 1 1 1 8!×1! 0,240×10-2 3,937 Математическое ожидание
2 1 1 1 1 1 1 0 6!×2! 0,120×10-2 3,172
2 2 1 1 1 1 0 0 2!4!2!×2!2! 0,600×10-3 2,625
2 2 2 1 1 0 0 0 3!2!3!×2!2!2! 0,300×10-3 2,297
2 2 2 2 0 0 0 0 4!4!×2!2!2!2! 0,150×10-3 2,187 1-й локальный минимум
3 1 1 1 1 1 0 0 5!2!×3! 0.400×10-3 2,516 1-й локальный максимум
3 2 1 1 1 0 0 0 2!4!×3!2!2! 0,200×10-3 2,078
3 2 2 1 0 0 0 0 2!5!×313121 0,100×10-3 1,859
3 3 2 1 0 0 0 0 4!3!×4! 0,334×10-4 1,641 2-й локальный минимум
4 1 1 1 1 0 0 0 2!4!×4!2! 0,100×10-3 1,969 2-й локальный максимум
4 2 1 1 0 0 0 0 2!5!×4!2!2! 0,500×10-4 1,641
4 2 2 0 0 0 0 0 5!×4!3! 0,250×10-4 1,531
4 2 2 0 0 0 0 0 5!×4!3! 0,250×10-4 1,531
4 3 1 0 0 0 0 0 6!×4!4! 0,167×10-5 1,422
4 4 0 0 0 0 0 0 2!4!×3!2!3! 0,417×10-5 1,312 3-й локальный минимум
5 1 1 1 0 0 0 0 3!4!×5! 0,200×10-4 1,531 3-й локальный максимум
5 2 1 0 0 0 0 0 5!×5!2! 0,100×10-4 1,312
5 3 0 0 0 0 0 0 6!×5!3! 0,334×10-5 1,203
6 1 1 0 0 0 0 0 2!5!×6! 10-5 1,203
6 2 0 0 0 0 0 0 6!×6!2! 0,167×10-5 1,094
7 1 0 0 0 0 0 0 6!×7! 0,477×10-6 0,984
8 0 0 0 0 0 0 0 7!×8! 0,596×10-7 0,875
Таблица 3 – Локальные экстремумы математического ожидания полиномиального распределения с упорядоченными подмножествами

Общий и частный случаи полиномиального распределения с упорядоченными элементами подмножеств

Общий случай полиномиального распределения с упорядоченными элементами подмножеств имеет место, когда хотя бы одно из подмножеств содержит хотя бы одну выборку объёмом не менее двух элементов.

Частный случай этого распределения имеет место, когда выборки различимы между собой и принимают нулевые и/или единичные значения, а число выборок не меньше числа случайных величин распределения.

Принцип получения вероятностей полиномиального распределения с упорядоченными элементами подмножеств

В оснву получения вероятностей этого распределения положен алгоритм Феллера, суть которого изложеннй на с.60 <ref>Феллер В. Введение в теорию вероятностей и ее приложения, т. 1. М.: Мир, 1984. 527 с. <ref/>.

Произвольный исходный набор, например, 22111100 (таблица 2, 3-я строка сверху), разбивается на три группы, в каждой из которых выборки равных объёмов: 22, 1111 и 00 (2, 4 и 2). Такое разбиение может быть выполнено \frac{8!}{2!4!2!}=420 способами. Каждому из этих 420-ти различимых наборов соответствует вероятность \frac{8!}{2!2!}8^{-8}=0,000600. Общая вероятность 420-ти различимых наборов (из исходного набора 22111100) составит \frac{8!}{2!2!}8^{-8}\frac{8!}{2!4!2!}=0,252432222. Аналогично рассчитываются вероятности для всех других наборов таблицы 3. Жирным шрифтом в таблицах 3 и 4 выделены максимумы, косым шрифтом - минимумы.

Принцип получения математического ожидания полиномиального распределения с упорядоченными элементами подмножеств

Математическое ожидание как глобальный максимум вероятностей полиномиального распределения с упорядоченными элементами подмножеств находится из тех же соображений, что и глобальный максимум любого полиномиального распределения, а именно, чем меньше знаменатель полиномиального коэффициента, тем больше вероятность. Отсюда в искомом наборе должны присутствовать выборки объёмами 0 и 1, а сам набор должен быть как можно большего размера с тем, чтобы разместить в нём как можно больше нулевых и единичных выборок.

В общем случае из-за наличия нулевых выборок это выполнить невозможно без добавления выборок большего объёма. С целью минимизации полиномиального коэффициента такими могут быть только выборки с объёмами по два элемента исходного множества. Следовательно, выборками объёмами 0, 1 и 2 элемента можно описать любой набор максимального размера, и глобальный максимум вероятностей различимых наборов необходимо искать в наборах, в которых имеются три группы выборок с объёмами 0, 1 и 2 элементов (см.таблицу 2, 3-ю строку сверху). Единственное исключение составляет случай биномиального распределения. Его набор можно заполнить только одними единицами: 11.

В первом приближении группы двоек, единиц и нулей принимаются равными. Максимальная длина набора делится на 3. При этом, если число делится на 3 с остатком, то остаток добавляется в группу единиц. Например, в таблице 2 число случайных величин (восемь) на три делится с остатком (\frac{n}{3}=\frac{8}{3}\approx2,667). Получается две группы по две двойки и по два нуля, а оставшаяся группа будет содержать четыре единицы: 22111100, поскольку 1!=1. Соответственно глобальный максимум вероятностей будет kn = 8 = 0,252 (таблица 3, 3-я строка сверху).

Если число делится на 3 без остатка, например, kmax = 15, то из групп двоек и нулей удаляются по одному элементу, а в группу единиц добавляются две единицы: 222211111110000 (pmax = 15 = 0,08407).

Из этого правила исключение составляют относительно малые значения, которые делятся на 3 без остатка: 3, 6 и 9. Для них глобальный максимум вероятностей достигается при равномерном распределении двоек, единиц и нулей (210, kn = 3 = 0,6666; 221100, kn = 6 = 0,3472 и 222111000, kn = 9 = 0,19662).

Если за точку отсчёта взять случай, соответствующий биномиальному распределению (kmax = n = 2, pn = 2 = 0,333), то зависимость глобального максимума (pkmax = n) вероятностей от максимального размера (kmax = n = 2) различимых наборов будет иметь максимум максиморум при (pn = 3 = 0,6666) и далее будет монотонно убывать, асимптотически приближаясь к нулю.

Локальные максимумы различимых наборов определяются аналогично локальным максимумам полиномиального распределения с той лишь разницей, что помимо единичных выборок в искомых наборах могут присутствовать и выборки несколько больших объёмов (таблицы 3 и 4).


Полиномиа́льное (мультиномиа́льное) распределе́ние с упорядоченными элементами подмножеств (таблица 1)— частный случай полиномиального распределения в принятом понимании.

ВНИМАНИЕ!!! В теперешней таблице 1 нет упорядоченности элементов!!!

Таблица 1 – Характеристики полиномиального распределения с упорядоченными элементами подмножеств
Пространство элементарных событий \sum_{i=1}^k\Omega_i(t_i, X_i=n_i \mid t_{i-1},X_{i-1}=n_{i-1})
Вероятность \prod_{i=1}^kP(t_i,X_i=n_i \mid t_{i-1},X_{i-1}=n_{i-1})=

=\frac{n!}{n_1! \cdots n_k!} p_1^{n_1}\cdots p_k^{n_k}

Максимальная вероятность

(при математическом ожидании распределения)

\left(\prod_{i=1}^nP(t_i,X_i=n_i \mid t_{i-1},X_{i-1}=n_{i-1}) \right)_{max}=

=\left(\frac{n!}{n_1! \cdots n_n!} p_1^{n_1}\cdots p_n^{n_n}\right)_{max}=\frac{n!}{n^n}

Математическое ожидание

(как максимальное произведение математических ожиданий

случайных величин)

\left(\prod_{i=1}^nE(t_i,X_i=n_i \mid t_{i-1},X_{i-1}=n_{i-1})\right)_{max}=

=\left(\prod_{i=1}^n(n-\ldots-n_{i-1})p_i)\right)_{max}=\frac{n!}{n^n}

Дисперсия \sum_{i=1}^kD(t_i,X_i=n_i)=\sum_{i=1}^k(n-\ldots-n_{i-1})p_iq_i
Максимальная дисперсия

(при математическом ожидании распределения)

\left(\sum_{i=1}^nD(t_i,X_i =n_i)\right)_{max}=

=\left(\sum_{i=1}^n(n-\ldots-n_{i-1})p_iq_i\right)_{max}=\frac{n^2-1}{2n}

Ковариационная матрица B=\| b_{ij} \|,

где b_{ij} = \begin{cases} (n-\ldots-n_{i-1})p_iq_i, & i=j,\\ 0, & i \not= j \end{cases}

Корреляционная матрица \Rho=\| \rho_{ij} \|,

где \rho _{ij} = \begin{cases} 1, & i=j,\\ 0, & i \not= j \end{cases}

χ2 - критерий \chi^2=\sum_{i=1}^k [X_i-(n-\ldots-n_{i-1})p_i^{(0)}]^2/( n-\ldots-n_{i-1})p_i^{(0)}=

=-n+\sum_{i=1}^kX_i^2 /( n-\ldots-n_{i-1})p_i^{(0)}

Определение

Полиномиальное распределение с упорядоченными элементами подмножеств

\prod_{i=1}^k\frac{1}{n_i!}P(t_i,X_i=n_i \mid t_{i-1},X_{i-1}=n_{i-1})=\frac{1}{n_1! \cdots n_k!}\frac{n!}{n_1! \cdots n_k!} p_1^{n_1}\cdots p_k^{n_k},
i=1,\ldots,k, \quad 2\le k \le n <\infty,

определено на точечных пространствах элементарных событий

\Omega_1, \ldots, \Omega _k

и принимает в дискретные последовательные моменты времени

t_1, \ldots, t_k, \quad  t_i<t_{i+1}

целые неотрицательные значения

n_1, \ldots, n_k,

с соответствующими вероятностями успехов Бернулли распределений

p_1, \ldots, p_k,

взаимосвязанные условиями

n_1+\ldots+n_k=n, \quad p_1+ \ldots +p_k=1,

согласно которым

X_i=n_i \mid X_{i-1}=n_{i-1}

в i - ый момент времени i - ая случайная величина Xi принимает значение n _i,  \quad  0\le n_i\le n-\ldots- n_{i-1} при условии, что в предшествующий момент времени n _{i-1}, \quad t_{i-1}<t_i предшествующая случайная величина Xi − 1 приняла значение n _{i-1}, \quad 0\le n_{i-1}\le n-\ldots-n_{i-2}. Причём каждая случайная величина зависима от всех предшествующих величин этого процесса. Исключение составляет только первая случайная величина этого распределения X1. Она является независимой.

Параметры полиномиального распределения с упорядоченными элементами подмножеств

Пространство элементарных событий распределения

\sum_{i=1}^k\Omega_i(t_i, X_i=n_i \mid t_{i-1},X_{i-1}=n_{i-1}),

вероятность распределения

\prod_{i=1}^k\frac{1}{n_i!}P(t_i,X_i=n_i \mid t_{i-1},X_{i-1}=n_{i-1})=\frac{1}{n_1! \cdots n_k!}\frac{n!}{n_1! \cdots n_k!} p_1^{n_1}\cdots p_k^{n_k},

математическое ожидание распределения

\prod_{i=1}^k\frac{1}{n_i!}E(t_i,X_i=n_i \mid t_{i-1},X_{i-1}=n_{i-1})=\prod_{i=1}^k\frac{1}{n_1! \cdots n_k!}(n_1-\ldots-n_k)p_i  =
=\frac{1}{n_1! \cdots n_k!}\prod_{i=1}^k (n_1-\ldots-n_k)p_i,

дисперсия распределения

\sum_{i=1}^kD(t_i,X_1=n_i)=\sum_{i=1}^k(n-\ldots-n_{i-1})p_iq_i.

Параметры случайной величины полиномиального распределения с упорядоченными элементами подмножеств

Пространство элементарных событий случайной величины

\Omega_i(t_i, X_i=n_i \mid t_{i-1},X_{i-1}=n_{i-1})=[0\le n_i \le n-\ldots-n_{i-1}],

вероятность случайной величины

P(t_i, X_i=n_i \mid t_{i-1},X_{i-1}=n_{i-1})\frac{1}{n_j!}=\frac{1}{n_j!}{n-\ldots-n_{i-1}\choose n_i}p_i^{n_i}, \quad j=1,\ldots,k,

математическое ожидание случайной величины

E(t_i, X_i=n_i \mid t_{i-1},X_{i-1}=n_{i-1})\frac{1}{n_j!}=\frac{1}{n_j!}(n-\ldots-n_{i-1})p_i, \quad j=1,\ldots,k,

дисперсия случайной величины

D(t_i,X_i \mid t_{i-1},X_{i-1})=( n-\ldots-n_{i-1})p_iq_i, \quad q_i=1-p_i.

Вероятная схема полиномиального распределения с упорядоченными элементами подмножеств

Полиномиальное распределение с упорядоченными элементами подмножеств появляется в так называемой полиномиальной схеме повторных циклов случайных зависимых экспериментов. Каждый цикл зависимых экспериментов осуществляют методом выбора без возвращения в дискретной временной последовательности t_1,\ldots,t_k, номера точек которой соответствуют номерам случайных величин распределения. Каждая из случайных величин распределения Xi = ni | Xi − 1 = ni − 1 — это число ni наступлений одного соответствующего события

x_i,\quad i=1,\ldots,k

в i - ый момент времени при условии, что в (i − 1) - ый момент произошло ni − 1 наступлений предшествующего события xi − 1 с положительным исходом, все вероятности которых p_i, \quad i=1,\ldots,k нормированы p_1+\ldots+p_k=1 и неизменны во время проведения зависимых экспериментов. Если в каждом цикле зависимых экспериментов вероятность наступления события xi равна pi, то полиномиальная вероятность равна вероятности того, что при n экспериментах события x_1,\ldots,x_k наступят n_1,\ldots,n_k раз соответственно (ГДЕ ФАКТОРИАЛ?).

Литература

<references />

1. Феллер В. Введение в теорию вероятностей и ее приложения, т. 1. М.: Мир, 1984. 527 с.