Вероятность и статистика · объяснение и практика

Как посчитать биномиальную вероятность между двумя границами

Переводим двойное ограничение в точный набор целых значений, складываем биномиальные массы и проверяем обе границы через накопленные вероятности.

Рука ставит оранжевый столбик между двумя синими столбиками разной высоты.

В теме Случайные величины и распределения · Учебная карта

Главная мысль

Для X — числа успехов в шести независимых испытаниях с p = 1/3 событие 2 ≤ X ≤ 4 включает ровно значения 2, 3 и 4. Его вероятность равна (240+160+60)/729 = 460/729. Через F(j) = P(X ≤ j) тот же ответ записывается F(4)−F(1): нижнюю включённую границу два нельзя вычитать вместе с её массой.

Сначала перечислите включённые целые значения

Условие относится к числу успехов, поэтому X принимает только целые значения от нуля до n. Фраза «от двух до четырёх включительно» означает X = 2, X = 3 или X = 4. Условие 2 < X ≤ 4 оставляет только 3 и 4. Сдвиг одного знака меняет целое событие, а не способ округления результата.

Перед расчётом пересеките условие с допустимыми значениями 0, 1, …, n. Если требуют 7 ≤ X ≤ 9 при шести испытаниях, подходящих значений нет и вероятность равна нулю. Если диапазон охватывает весь набор от нуля до шести, вероятность равна единице. Для нецелых границ тоже сначала выбирают подходящие целые значения: 1,4 < X < 4,2 включает 2, 3 и 4.

Сложите массы только трёх нужных результатов

В учебной серии проведены шесть независимых попыток; шанс успеха в каждой равен одной трети. Для ровно k успехов используется C(6,k)·(1/3)ᵏ·(2/3)⁶⁻ᵏ. Все слагаемые удобно привести к знаменателю 3⁶ = 729. Для k = 2 числитель равен 15·16 = 240, для k = 3 он равен 20·8 = 160, для k = 4 — 15·4 = 60.

Складываются события разных значений одного счётчика, поэтому они несовместны и поправка на пересечение не требуется. Получается 460/729, приблизительно 0,6310. Умножить одну из этих вероятностей на три нельзя: результаты 2, 3 и 4 при p = 1/3 не равновероятны. Вычисленное np = 2 тоже не является вероятностью диапазона: это ожидание числа успехов.

Для численной проверки в инструменте «Биномиальная вероятность» введите n=6, p=0,3333333333 и по очереди k=2, k=3, k=4. Сложите три полученные массы. Десятичная запись p здесь приближает одну треть, поэтому сравнивайте сумму с десятичным приближением 460/729. Поле k задаёт одно точное число успехов, а не весь диапазон.

Пример

Для X ∼ Bin(6,1/3) сравните события 2 ≤ X ≤ 4 и 2 < X ≤ 4.

Для первого события сумма равна (240+160+60)/729 = 460/729. Во втором исключено значение 2, поэтому остаётся (160+60)/729 = 220/729. Разность 240/729 в точности равна P(X = 2), то есть массе изменённой границы.

Накопленная вероятность проверяет сдвиг нижней границы

Пусть F(j) = P(X ≤ j). Тогда для целых L и U с L ≤ U вероятность L ≤ X ≤ U равна F(U)−F(L−1). Первая сумма включает все значения до U, вторая удаляет только значения ниже L. Вычитание F(L) удалило бы и нужное значение L. Это особенно заметно в дискретной модели, где отдельная точка может иметь положительную вероятность.

Для примера F(4) = 716/729, поскольку массы значений 5 и 6 вместе равны 13/729. А F(1) = (64+192)/729 = 256/729. Разность снова даёт 460/729. Неверная запись F(4)−F(2) дала бы 220/729 и соответствовала бы уже другому событию. Проверка двух способов относится к одному и тому же диапазону; нельзя менять строгость знаков между строками.

При L = 0 удобно положить F(−1) = 0; при U ≥ n имеем F(U) = 1. Для непустого диапазона ответ находится между нулём и единицей и не уменьшается при расширении границ. Биномиальная формула требует фиксированного числа испытаний, независимости и одного значения p во всех попытках. Изменение шанса после каждого результата или выбор без возвращения требуют другой модели, даже если слова «между двумя границами» остаются теми же.

От чтения к действию

А теперь — вы

X — число успехов в пяти независимых испытаниях с p = 1/2. Какова вероятность 2 ≤ X < 4?

Частые вопросы

Почему для включённой нижней границы L вычитают F(L−1)?

F(L−1) содержит все целые значения ниже L и не содержит само L. Если вычесть F(L), масса P(X = L) исчезнет из ответа.

Можно ли заменить сумму вероятностью одного среднего значения?

Нет. Диапазон является объединением нескольких несовместных событий. Каждое допустимое целое значение даёт собственную биномиальную массу.

Что делать с нецелой или выходящей за 0…n границей?

Сначала перечислите целые значения от нуля до n, удовлетворяющие исходным знакам. Затем складывайте их массы; пустой список даёт вероятность ноль.

Углублённый разбор

Черновская граница биномиального хвоста через экспоненту

Экспоненциальная граница заменяет суммирование хвоста оптимизацией одного параметра. Она даёт верхнюю оценку, а не точную вероятность.

Перед началом: Комбинаторный подсчёт конечных исходов; Индикаторы и независимые испытания.

Определение и постановка

Для X≥k и t>0 выполняется eᵗˣ≥eᵗᵏ. Неравенство Маркова даёт P(X≥k)≤e⁻ᵗᵏE eᵗˣ. У биномиального X последнее ожидание равно (1−p+peᵗ)ⁿ.

Вывод и вычислительный критерий

При 0<p<q=k/n<1 минимум достигается при eᵗ=q(1−p)/(p(1−q)). Подстановка даёт exp[−nD(q∥p)], где D(q∥p)=q ln(q/p)+(1−q)ln((1−q)/(1−p)).

Параметр t выбирают после объявления порога, но до наблюдения случайного X. Оптимизация относится к доказанной верхней границе и не заменяет экспериментально распределение статистики.

Условия и границы вывода

Для q≤p положительный оптимизатор отсутствует и простая верхняя граница превращается в единицу. На краю q=1 выражение понимают по пределу: вероятность всех успехов равна pⁿ.

Независимость испытаний нужна для факторизации экспоненциального момента. При общих случайных воздействиях использование биномиального момента может неоправданно сузить границу.

Для этого же примера можно взять t равным логарифму двух. Тогда момент равен трём вторым в четвёртой степени, а пороговый множитель равен одной восьмой. Оценка получится восемьдесят одна сто двадцать восьмая, то есть больше оптимальных шестнадцати двадцать седьмых. Обе границы законны: неоптимальное значение параметра не разрушает доказательство, а лишь делает результат слабее. При t, стремящемся к нулю, граница стремится к единице и теряет информативность. Эти сравнения объясняют, зачем после применения Маркова нужна отдельная минимизация. Неправильно сначала выбрать t по самому случайному наблюдению и затем без доказательства объявить получившееся число общей хвостовой гарантией.

Оптимальный параметр зависит от события, а не от реализации счётчика. Для порога четыре значение t стремится к бесконечности и предельная граница совпадает с вероятностью всех четырёх успехов, равной одной шестнадцатой. Этот крайний случай служит дополнительной проверкой знаков экспоненты.

Разобранная задача

Условие. X имеет биномиальный закон с n=4,p=1/2. Для события X≥3 используйте t=ln3 и сравните оценку с точным хвостом.

  1. При t=ln3 экспоненциальный момент равен ((1+3)/2)⁴=16.
  2. Множитель порога e⁻³ᵗ равен 1/27.
  3. Оценка Маркова даёт P(X≥3)≤16/27.
  4. Точный подсчёт даёт [C(4,3)+C(4,4)]/16=5/16; он действительно ниже границы.

Ответ. Черновская оценка равна 16/27, точная вероятность равна 5/16.

Проверка. Сравнение без округления: 16/27−5/16=(256−135)/432=121/432>0. Выбранный t совпадает с оптимумом для q=3/4.

Где легко ошибиться. Верхняя граница не обязана быть близкой к точному хвосту, особенно при малом числе испытаний.

Проверьте понимание

Что гарантирует значение черновской границы 0,6?

Вопросы к этой главе

Почему t должен быть положительным?

Для верхнего хвоста экспонента должна возрастать. Отрицательный t разворачивает сравнение и относится к нижнему хвосту при изменённой постановке.

Можно ли округлить дробный порог вниз?

Для целочисленного X условие X≥a равносильно X≥ceil(a). Округление вниз добавляет лишние исходы и меняет событие, вероятность которого оценивается.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

  • Lafferty, Liu, Wasserman: Concentration of Measure

    PDF с извлечённым текстом: §7.2.1, неравенство Маркова, экспоненциальный метод Чернова и минимизация параметра. Числовой хвост и сравнения посчитаны независимо.

Рекуррентное суммирование биномиальных вероятностей

Соседние биномиальные массы связаны простой рекурсией. Она позволяет суммировать хвост без повторного вычисления больших факториалов.

Перед началом: Комбинаторный подсчёт конечных исходов; Индикаторы и независимые испытания.

Определение и постановка

Если bₖ=C(n,k)pᵏ(1−p)ⁿ⁻ᵏ, то bₖ₊₁/bₖ=(n−k)p/((k+1)(1−p)) при 0<p<1.

Вывод и вычислительный критерий

Факториалы соседних сочетаний сокращаются до (n−k)/(k+1); степени вероятностей дают p/(1−p). Начальная масса b₀=(1−p)ⁿ задаёт весь закон. Для верхнего края можно начать с bₙ=pⁿ и двигаться обратно.

В точной дробной арифметике рекурсия сохраняет равенства. В машинной арифметике очень малая начальная масса может обнулиться; тогда удобнее начинать около моды с логарифмами и нормировать.

Условия и границы вывода

Суммирование нужного диапазона включает обе объявленные границы. Дополнение выгодно лишь если соответствующий короткий хвост действительно вычисляется устойчивее. Вычитание почти единицы теряет относительную точность малой вероятности.

При p=0 или p=1 распределение вырождено и дробная рекурсия не используется. Сначала возвращают детерминированный исход, а не пытаются делить на нулевой множитель.

Массы в примере возрастают от нуля к одному успеху, затем убывают. Максимум находится при k=1, хотя математическое ожидание равно четырём третьим и не является целым значением. Проверка отношения при переходе от одного к двум даёт три четверти, поэтому второе значение действительно меньше первого. Для нижнего хвоста до единицы сумма равна сорока восьми восемьдесят первым, а его дополнение равно тридцати трём восемьдесят первым. Оба способа дают одиннадцать двадцать седьмых. Если бы потребовалась вероятность строго более двух успехов, слагаемое при двух исключалось бы и ответ стал бы одной девятой. Такой контроль формулировки важнее выбора рекуррентной реализации.

При обратном движении отношение надо инвертировать с правильным индексом. Использование того же множителя в прямом и обратном обходах не восстанавливает исходную массу. Проверка одного шага туда и обратно должна давать точное тождество.

Разобранная задача

Условие. Для X~Bin(4,1/3) найдите P(X≥2) рекуррентно, начиная с b₀.

  1. Начальная масса равна (2/3)⁴=16/81.
  2. Первое отношение равно 4·(1/3)/(2/3)=2, поэтому b₁=32/81.
  3. Следующие отношения равны 3/4,1/3,1/8; получаем b₂=24/81,b₃=8/81,b₄=1/81.
  4. Сумма верхнего диапазона равна (24+8+1)/81=11/27.

Ответ. Вероятность хотя бы двух успехов равна 11/27.

Проверка. Полином (2+z)⁴/81 имеет коэффициенты 16,32,24,8,1. Их сумма 81 и выделение степеней от второй подтверждают весь рекуррентный расчёт.

Где легко ошибиться. Нельзя использовать одно отношение для всех k: числитель убывает, знаменатель растёт, поэтому массы не образуют геометрическую прогрессию.

Проверьте понимание

При 0<p<1 на положительном носителе когда соседние биномиальные массы равны?

Вопросы к этой главе

Где расположена мода?

Массы растут, пока соседнее отношение больше единицы, и убывают после его перехода ниже единицы. Равенство единице допускает две соседние моды.

Зачем проверять всю сумму?

Нормировка обнаруживает потерю или дублирование крайних масс. Она дополняет, но не заменяет проверку правильного выбранного хвоста.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

  • SciPy: биномиальный закон

    HTML Notes проверен: масса биномиального счётчика, область k и параметров. Рекурсии, полиномы и конечные примеры выведены для данной главы.

Точный биномиальный интервал через обращение двух хвостов

Ноль успехов не доказывает нулевую вероятность. Верхняя граница точного интервала находится из того, насколько редко такая запись возникала бы при большом значении параметра.

Перед началом: Условная вероятность; Точная арифметика.

Интервал получается обращением проверок

Предположим фиксированные n независимых испытаний Бернулли с одной неизвестной вероятностью p. Для каждого кандидата p₀ можно проверить его по биномиальным хвостам. Двусторонний интервал Клоппера—Пирсона оставляет кандидатов, не исключённых двумя односторонними проверками уровня α/2. Во внутренних случаях нижняя граница решает P_p(X≥x)=α/2, верхняя — P_p(X≤x)=α/2. Важно сохранять направление хвоста: слишком малое p исключают большим наблюдённым счётом, слишком большое — малым.

Крайний исход имеет простую границу

Если x=0, нижняя граница равна нулю. Верхняя определяется уравнением (1−p_U)ⁿ=α/2, поэтому p_U=1−(α/2)^(1/n). При x=n аналогично получаем p_L=(α/2)^(1/n), верхняя граница равна единице. Односторонняя верхняя граница использовала бы α вместо α/2 и потому была бы другой. Сначала выбирают требуемую гарантию, затем число в хвосте, а не наоборот.

Точность относится к повторению плана

Интервал имеет покрытие не меньше 1−α для каждого фиксированного p в данной модели. Из-за дискретных значений счётчика покрытие обычно превышает номинальное. Это не означает, что после наблюдения данных вероятность фиксированного параметра попасть в вычисленный отрезок равна 1−α. План с остановкой по успехам имеет другое пространство повторений; автоматически переносить на него биномиальный интервал фиксированного n нельзя. Зависимость испытаний или разные p также меняют модель.

Разобранная задача

Условие. В десяти заранее запланированных независимых испытаниях успехов не было. Постройте двусторонний точный интервал при α=1/20 и сравните с вероятностью получить ноль при p=1/2.

  1. Наблюдаемый счёт x=0, поэтому нижняя граница равна нулю. Для верхней используем хвост α/2=1/40.
  2. Уравнение имеет вид (1−p_U)¹⁰=1/40. Отсюда p_U=1−40^(−1/10), приблизительно 0,3085.
  3. При p=1/2 вероятность нуля равна 1/1024. Это меньше 1/40, поэтому такая кандидатура лежит за верхней границей.
  4. На самой границе вероятность нулевого счёта равна 1/40 по построению; значения p меньше границы делают ноль менее неожиданным.

Ответ. Двусторонний 95%-интервал равен [0,1−40^(−1/10)], примерно [0;0,3085]. Он не сжимается в точку ноль.

Проверка. Возведение 1−p_U в десятую степень возвращает ровно 1/40. Дополнительная проверка p=0 даёт вероятность нуля один, поэтому нижний край должен оставаться допустимым.

Где легко ошибиться. Не подставляйте обычную оценку дисперсии p̂(1−p̂)/n в симметричный нормальный интервал при p̂=0: она обнулится и создаст ложную уверенность, которой биномиальные данные не дают.

Проверьте понимание

Какое уравнение определяет верхний край двустороннего интервала?

Вопросы к этой главе

Почему верхняя граница отличается от односторонней?

Двусторонняя конструкция выделяет каждому направлению только половину общего α. Для заранее выбранного единственного верхнего ограничения весь α можно использовать в одном хвосте.

Сколько успехов ожидается при верхней границе?

Около 3,085 из десяти, но это не противоречит наблюдённому нулю: среднее не обязано совпадать с каждой реализацией. Граница контролирует именно хвостовую вероятность.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

  • SAS, Exact Clopper–Pearson limits

    Точные биномиальные границы Клоппера–Пирсона, включая отсутствие наблюдённых успехов.

Одинаковое среднее Бернулли: биномиальный хвост не всегда крайний

Если p₁+p₂=6/5, вероятность хотя бы одного успеха лежит от 21/25 до 1, а вероятность двух —от 1/5 до 9/25. Равные вероятности одновременно минимизируют первый хвост и максимизируют второй. Одна «худшая биномиальная замена» здесь невозможна.

Перед началом: Сумма независимых Bernoulli; Квадратичная функция на замкнутом отрезке.

Неполные входные данные превращают расчёт в оптимизацию

Две независимые Bernoulli-переменные с неизвестными p₁,p₂∈[0,1] и известной суммой s. Оптимизируются точные хвосты по допустимым параметрам.

Обычно для неоднородной независимой серии заданы обе вероятности. Теперь известно лишь их суммарное значение s. У всех допустимых моделей ожидание S=I₁+I₂ равно s, но закон S не определён. Требуется не подставить удобные средние параметры, а найти наименьшую и наибольшую вероятность нужного события среди всех совместимых независимых экспериментов.

Положим p₁=x, p₂=s−x. Ограничения обеих вероятностей дают отрезок max(0,s−1)≤x≤min(1,s), при 0≤s≤2. Независимость сохраняется частью условия. Если она неизвестна, одного произведения p₁p₂ уже недостаточно и область законов становится другой. Пределы, полученные здесь, относятся только к объявленной независимой семье.

Произведение вероятностей управляет хвостами в противоположные стороны

Вероятность двух успехов равна q=x(s−x)=s²/4−(x−s/2)². Её максимум s²/4 достигается при равных вероятностях s/2. Минимум на концах допустимого отрезка равен max(0,s−1). При s≤1 можно сделать одну попытку невозможной; при s≥1 одна попытка становится достоверной, а другая имеет вероятность s−1.

Для хотя бы одного успеха P(S≥1)=p₁+p₂−p₁p₂=s−q. Поэтому те же параметры дают противоположные экстремумы: диапазон первого хвоста равен[s−s²/4,min(s,1)], а второго —[max(0,s−1),s²/4]. Оба конца достигаются конкретными вероятностями, а непрерывное изменение x заполняет промежуточные значения. При s=0 или 2 интервалы вырождаются, что согласуется с детерминированным счётом.

Разброс и порядок всех рисков не являются одним утверждением

Для любого неотрицательного целочисленного S с конечным средним E[S]=Σₖ≥₁P(S≥k). Если два таких закона имеют одно среднее и все хвосты одного не меньше хвостов другого, то они обязаны совпадать: положительное увеличение хотя бы одного хвоста нельзя компенсировать без уменьшения какого-то другого. У двух Bernoulli это видно непосредственно из P(S≥1)+P(S≥2)=s.

Значит большая дисперсия не может сама по себе означать большую вероятность каждого превышения. При равных вероятностях здесь больше крайних исходов ноль и два, но меньше вероятность вообще увидеть хотя бы один успех. Для прикладной гарантии сначала зафиксируйте конкретный порог потерь. Нельзя выбрать экстремальную модель для одного события и перенести её ответ на противоположное событие без новой проверки.

Среднее 6/5 и два противоположных экстремума

Условие. Две независимые попытки имеют p₁+p₂=6/5. Найдите точные диапазоны P(S≥1),P(S≥2), достигающие модели и сравните их дисперсии.

  1. Параметр x=p₁ принадлежит[1/5,1], а q=p₁p₂=9/25−(x−3/5)². Максимум q равен 9/25 при p₁=p₂=3/5.
  2. На концах(p₁,p₂)=(1,1/5) или(1/5,1) произведение равно 1/5. Следовательно P(S≥2)∈[1/5,9/25].
  3. Первый хвост равен 6/5−q, поэтому P(S≥1)∈[21/25,1]. Его минимум достигается именно при равных вероятностях, а максимум —при одном гарантированном успехе.
  4. При равных вероятностях закон(P0,P1,P2)=(4/25,12/25,9/25). При крайнем выборе он равен(0,4/5,1/5). Оба имеют среднее 6/5.
  5. Дисперсии равны 12/25 и 4/25 соответственно. Несмотря на больший разброс первой модели, её вероятность хотя бы одного успеха 21/25 меньше единицы второй модели.

Ответ. P(S≥1)∈[21/25,1]; P(S≥2)∈[1/5,9/25]. Равные вероятности дают меньший первый и больший второй хвост.

Проверка. Для обоих крайних законов сумма двух хвостов равна 6/5. Прямой подсчёт четырёх бинарных исходов даёт указанные массы, а вершина и концы вогнутой квадратичной функции доказывают глобальность, а не только сравнение двух примеров.

Где легко ошибиться. Фраза «биномиальная модель консервативна» не имеет единого смысла без указания порога. В этой семье она завышает один хвост и занижает другой, хотя всегда имеет максимальную дисперсию.

Проверьте понимание

Где достигается максимальная вероятность хотя бы одного успеха при p₁+p₂=6/5 в разобранном примере статьи?

Вопросы к этой главе

Можно ли из этих формул получить результат для десяти попыток?

Не прямой подстановкой: при большем числе неизвестных параметров появляются другие полиномы и ограничения. Доказательство здесь полностью использует две Bernoulli и их произведение.

Почему одинаковое среднее мешает строгому порядку всех хвостов?

Среднее есть сумма этих хвостов. Если каждый увеличился или сохранился, а хотя бы один увеличился строго, среднее тоже увеличилось бы, вопреки условию.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

  • SciPy, scipy.stats.poisson_binom, Notes

    Модель суммы независимых индикаторов с разными вероятностями. Достижимые экстремумы при известной сумме двух параметров и противоположный порядок хвостов выведены здесь.

Источники и работа с материалом

Объяснение, примеры и вопросы написаны для erudeet. Факты и определения сверены по источникам ниже; это ссылки для самостоятельной проверки.

Продолжить разбираться