Вероятность и статистика · объяснение и практика
Как условие меняет множество исходов для вероятности
Пересчитываем вероятность после получения условия, меняем знаменатель на оставшуюся группу и различаем прямую и обратную условные вероятности.

В теме Условные вероятности и зависимости · Учебная карта
Главная мысль
Условная вероятность P(A|B) = P(A∩B)/P(B) при P(B) > 0. В равновозможной конечной модели знаменатель — число исходов, удовлетворяющих условию B, а числитель — число исходов, удовлетворяющих обоим условиям.
Как сообщение меняет пространство выбора
Из чисел от 1 до 12 равновероятно выбирают одно. Без дополнительной информации вероятность кратности трём равна 4/12. Теперь известно, что число чётное. Остаются 2,4,6,8,10,12 — шесть равновозможных вариантов. Из них кратны трём 6 и 12, поэтому условная вероятность равна 2/6 = 1/3.
В этом примере результат случайно совпал с исходным, но знаменатель изменился по смыслу. Если известно, что число больше 8, остаются 9,10,11,12, из которых подходят 9 и 12. Новая вероятность 2/4 = 1/2. Дополнительная информация не всегда увеличивает вероятность; она может её увеличить, уменьшить или оставить прежней в зависимости от события.
Почему порядок после вертикальной черты важен
В группе 20 учеников 12 посещают кружок программирования,8 — шахматы, а 5 — оба. Если известно посещение программирования, вероятность посещения шахмат равна 5/12. Если известно посещение шахмат, вероятность программирования равна 5/8. Числитель один и тот же, знаменатели разные: выбираются разные условные группы.
Вертикальная черта читается как «при условии».P(A|B) не означает вероятность одновременного выполнения A и B и не обязана равняться P(B|A). Совместная вероятность в примере равна 5/20. Отношение к всей группе и отношение к её выбранной части отвечают на разные вопросы, поэтому перед вычислением полезно словами назвать, среди кого теперь происходит выбор.
Пример
Из 1–10 выбрано число, известно, что оно больше 6. Какова вероятность чётности?
Условная группа —7,8,9,10. Подходят 8 и 10, поэтому вероятность 2/4 = 1/2. Деление на 10 игнорировало бы данное условие.
Когда простой подсчёт применять нельзя
Сокращение к числу подходящих вариантов требует их равновозможности после указанного условия. Если отдельные исходы изначально имеют разные веса, нужно складывать вероятности, а не просто считать записи. Формула через P(A∩B) и P(B) сохраняет этот учёт весов и не зависит от одинакового размера названий исходов.
При P(B) = 0 обычная дробная формула не определена. Для школьной конечной задачи это означает невозможное условие. Нельзя делить на ноль или автоматически назначать ответ нулём. Также способ получения информации должен совпадать с описанной моделью: случайно показанная карточка и сообщение о наличии хотя бы одной подходящей карточки могут отбирать случаи по-разному. Если механизм не указан, его нужно уточнить, а не приписывать условию удобный смысл.
От чтения к действию
А теперь — вы
Частые вопросы
Условная вероятность всегда больше исходной?
Нет. Она зависит от того, какие исходы оставило условие, и может измениться в любую сторону или сохраниться.
Можно ли поменять A и B местами?
Без пересчёта нельзя. Условные группы могут иметь разные вероятности и размеры.
Углублённый разбор
Условное ожидание на конечном разбиении
Условное ожидание на разбиении заменяет каждое наблюдение средним внутри известной группы. Это случайная величина, а не одно общее число.
Перед началом: Комбинаторный подсчёт конечных исходов; Индикаторы и независимые испытания.
Определение и постановка
Пусть события B₁,…,Bₘ несовместны и покрывают пространство. На Bⱼ величина E(X|B) равна ΣₓxP(X=x,Bⱼ)/P(Bⱼ), если вес группы положителен.
Вывод и вычислительный критерий
Взвешивание групповых средних их вероятностями восстанавливает EX. Более сильное свойство требует E[(X−E(X|B))g(B)]=0 для любой функции группы. Поэтому прогноз не оставляет систематической средней ошибки внутри каждой доступной категории.
Сведение всех групп к общему среднему также сохраняет глобальное ожидание, но не удовлетворяет локальному критерию. Именно проверка каждой группы отличает условное ожидание от произвольного несмещённого числа.
Условия и границы вывода
На группе нулевой вероятности значение можно выбрать произвольно: оно не меняет случайную величину почти наверное. При ненулевом весе свободы нет. Условное ожидание зависит от того, какая информация раскрыта, поэтому уточнение разбиения способно изменить прогноз.
Известная группа не делает X постоянной внутри неё. Условное среднее описывает лучший квадратичный прогноз, а остаточная изменчивость сохраняется и должна учитываться отдельно.
Квадратичная оптимальность проверяется без дифференцирования. Для любого прогноза g, постоянного внутри объявленных групп, разность X−g раскладывается в сумму остатка X−m и сдвига m−g, где m есть условное среднее. Среднее перекрёстного произведения равно нулю по локальному критерию. Поэтому средняя квадратичная ошибка равна остаточной ошибке плюс средний квадрат сдвига прогноза. Второе слагаемое неотрицательно и обращается в ноль лишь при g=m почти наверное. В примере общий прогноз три имеет ошибку пять, тогда как групповой прогноз имеет ошибку один. Разница четыре точно равна дисперсии групповых средних.
Разобранная задача
Условие. Четыре равновероятных исхода дают X=(0,2,4,6). Известно только, попал ли исход в первую или вторую пару. Найдите условное ожидание и средний квадрат остатка.
- Обе группы имеют вероятность 1/2. Среднее первой пары равно 1, второй равно 5.
- Условный прогноз принимает значения (1,1,5,5) на четырёх исходах.
- Остатки равны (−1,1,−1,1); внутри каждой группы они суммируются в ноль.
- Средний квадрат остатка равен (1+1+1+1)/4=1; общее ожидание прогноза равно трём.
Ответ. Условное ожидание равно 1 или 5; средний квадрат остатка равен 1.
Проверка. Прямое разложение дисперсии даёт Var X=5, Var условного среднего=4, остаток=1. Сумма 4+1 совпадает с исходной дисперсией.
Где легко ошибиться. Одного совпадения глобальных средних недостаточно: ошибка должна иметь нулевое среднее в каждой наблюдаемой группе.
Проверьте понимание
Вопросы к этой главе
Можно ли усреднять групповые средние без весов?
Только при равных вероятностях групп. В общем случае их вклады пропорциональны числу или вероятностной массе доступных наблюдений.
Что изменится после раскрытия точного исхода?
Условное ожидание станет самой X. Остаток исчезнет, потому что новая информация полностью определяет прогнозируемое значение.
Сверить определения и условия
Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.
- Sébastien Roch: условное ожидание, Appendix B.6
PDF с извлечённым текстом: B.6, определение условного среднего на конечном разбиении и L²-проекция. Собственные примеры и численные проверки не заимствованы.
Шансы после отбора: отношение правдоподобий сигнала
Шансы после сигнала получаются умножением исходных шансов на отношение правдоподобий. Шансы и вероятность имеют разные шкалы.
Перед началом: Комбинаторный подсчёт конечных исходов; Индикаторы и независимые испытания.
Определение и постановка
Для события H и сигнала S отношение P(H|S)/P(не H|S) равно исходному отношению P(H)/P(не H), умноженному на P(S|H)/P(S|не H).
Вывод и вычислительный критерий
Правило следует из двух формул Байеса: общий знаменатель P(S) сокращается. Это удобно при последовательных условно независимых сигналах, когда отношения правдоподобий перемножаются. Независимость должна выполняться внутри каждой гипотезы, а не только в общей смеси.
После обновления шансы o переводят в вероятность o/(1+o). Само отношение правдоподобий не является вероятностью гипотезы и способно превышать единицу без противоречия.
Условия и границы вывода
Нулевое правдоподобие требует аккуратно рассматривать носитель. Если сигнал невозможен при обеих гипотезах, условие не определено. Если он невозможен только при альтернативе, конечное обновление шансов заменяется достоверностью H в принятой модели.
Расчёт условен на точности частот сигнала. Он не доказывает причинность и не исправляет отбор, отличающийся от заявленного механизма наблюдения.
Рассмотрим отрицательный результат того же сигнала. Его отношение правдоподобий равно одной трети, потому что вероятности отсутствия сигнала при H и дополнении равны одной четверти и трём четвертям. Обновлённые шансы станут одной двенадцатой, а вероятность H — одной тринадцатой. Два результата наблюдения должны согласовываться с исходной смесью: вероятность положительного сигнала равна семи двадцатым, отрицательного — тринадцати двадцатым. Взвешивание posterior вероятностей даёт исходную одну пятую. Это проверка закона полного ожидания, способная обнаружить ошибку в одном из двух обновлений даже при правдоподобном отдельном числе.
Разобранная задача
Условие. Исходная вероятность H равна 1/5. Сигнал встречается с вероятностями 3/4 при H и 1/4 при не H. Найдите обновлённые шансы и вероятность.
- Исходные шансы равны (1/5)/(4/5)=1/4.
- Отношение правдоподобий сигнала равно (3/4)/(1/4)=3.
- Обновлённые шансы равны 3/4, то есть три случая H на четыре случая не H.
- Вероятность равна (3/4)/(1+3/4)=3/7; она меньше половины несмотря на положительный сигнал.
Ответ. После сигнала шансы равны 3:4, вероятность H равна 3/7.
Проверка. Совместные массы H∩S и не H∩S равны 3/20 и 4/20. Нормировка непосредственно даёт 3/(3+4), независимо от шкалы шансов.
Где легко ошибиться. Нельзя выдать отношение правдоподобий 3 за вероятность или подставить исходную вероятность вместо исходных шансов.
Проверьте понимание
Вопросы к этой главе
Можно ли складывать логарифмы отношений?
Да. Логарифм переводит произведение независимых свидетельств в сумму; при этом основание логарифма должно быть одинаковым во всех слагаемых.
Почему сигнал не дал вероятность выше половины?
Он утроил шансы, но исходное событие было достаточно редким. Сила свидетельства и исходная частота совместно определяют окончательный результат.
Сверить определения и условия
Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.
- OpenStax: Two Basic Rules of Probability
HTML §3.3 прочитан: правило умножения и условная вероятность при положительном знаменателе. Обновление шансов в главе выведено делением двух условных вероятностей.
Выбор пропорционально размеру: восстановление исходного среднего
Размер группы, увиденной случайным участником, обычно больше размера группы, выбранной равномерно из списка групп. Выведем точное преобразование закона и покажем, как вернуть средний размер исходной группы, если все группы непусты.
Перед началом: Условная вероятность; Дискретное среднее или интеграл плотности.
Единица отбора определяет наблюдаемый закон
Пусть положительная случайная величина X задаёт размер равномерно выбранной группы и имеет конечное среднее μ. Если вместо группы равномерно выбирают участника, группа размера x встречается пропорционально числу своих участников. Наблюдаемый закон имеет массы q(x)=xp(x)/μ. Это изменение закона отбора, а не увеличение самих групп.
Из формулы следует E_qX=E_pX²/μ, когда второй момент конечен. Разность наблюдаемого и исходного средних равна Var_p(X)/μ. Она неотрицательна и исчезает при постоянном размере. Простое усреднение увиденных размеров поэтому описывает другую целевую единицу наблюдения.
Обратное взвешивание восстанавливает закон
Для строго положительных размеров q(x)/x=p(x)/μ. Суммирование даёт E_q(1/X)=1/μ, поэтому μ=1/E_q(1/X). Исходную массу p(x) получаем нормированием величин q(x)/x. Деление на размер компенсирует именно тот множитель, который возник при выборе участника.
Здесь закон q считается известным. Если его заменять конечными наблюдаемыми частотами, обратная величина среднего уже является случайным отношением. Из точного распределительного тождества не следует несмещённость такой оценки на каждой конечной выборке. При одном наблюдении она вообще совпадает с увиденным X.
Нулевые группы требуют дополнительной информации
Строгая положительность существенна. Пустая группа не может быть замечена при выборе участника, поэтому её исходная масса теряется полностью. Закон, сосредоточенный в размере два, и исходная смесь нулевых и двухэлементных групп дают один и тот же наблюдаемый размер два, но разные средние по группам.
Следовательно, для восстановления при возможных нулях нужно отдельно знать долю пустых групп либо другой источник информации о них. Также важно отличать размер, влияющий на включение, от изучаемого признака. Если вероятность отбора пропорциональна другой характеристике, деление на X без проверки механизма не исправит смещение.
Четыре группы и восемь участников
Условие. Есть четыре группы размеров 1,1,2,4. Сначала сравните средний размер при равномерном выборе группы и при равномерном выборе одного из восьми участников. Затем восстановите исходный средний размер по наблюдаемому участником закону.
- При выборе группы массы размеров 1,2,4 равны 1/2,1/4,1/4. Исходное среднее равно (1+1+2+4)/4=2.
- При выборе участника размеры 1,2,4 наблюдаются с массами 2/8,2/8,4/8, то есть 1/4,1/4,1/2. Наблюдаемое среднее равно 1/4+2/4+4/2=11/4.
- Среднее обратного наблюдаемого размера равно 1/4+(1/4)/2+(1/2)/4=1/2. Обратная величина возвращает μ=2.
- Для восстановления всего закона нормируем (1/4,1/8,1/8) по сумме 1/2. Получаем исходные массы (1/2,1/4,1/4), а не закон выбора участника.
Ответ. Средний размер группы 2; увиденный участником средний размер 11/4; обратное взвешивание восстанавливает 2.
Проверка. Прямой список восьми участников содержит два наблюдения размера один, два размера два и четыре размера четыре. Он независимо подтверждает закон q. Исходная дисперсия равна 3/2, поэтому Var(X)/μ=3/4 совпадает с разностью 11/4−2.
Где легко ошибиться. Не усредняйте размеры увиденных групп без поправки и не называйте результат средним по всем группам. Крупные группы представлены чаще. Обратное взвешивание также не восстанавливает невидимую массу пустых групп, если такая масса допускается исходной моделью.
Проверьте понимание
Вопросы к этой главе
Почему получается гармоническое, а не арифметическое восстановление среднего?
Наблюдаемый закон уже содержит множитель размера. Его нужно убрать делением, затем нормировать. Это даёт обратное среднего 1/X, тогда как арифметическое среднее продолжает усиливать крупные группы.
Можно ли автоматически исправлять этим любой опрос участников?
Нет. Требуется именно равномерный выбор участников из полной совокупности и известный положительный размер группы. Неответы и другие вероятности включения меняют наблюдаемый закон и требуют отдельной модели.
Сверить определения и условия
Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.
- Arratia, Goldstein, Kochman: Size bias for one and all, §2
Прочитаны определение размерного смещения и формулы 3–4 на PDF-страницах 3–4. Здесь собственный конечный пример и обратное тождество; остальные разделы обзора не заявлены прочитанными.
Нулевое условие: предел зависит от способа сужения полосы
Нулевая вероятность точного условия не позволяет применить обычную дробь Байеса. Даже полосы, стягивающиеся к одной и той же линии, могут давать разные предельные условные законы, если их ширина зависит от неизвестной координаты.
Перед началом: Условная вероятность; Дискретное среднее или интеграл плотности.
Нулевое множество не задаёт способ наблюдения
Пусть X и Y независимы и равномерны на отрезке [−1,1]. Совместная плотность на квадрате равна 1/4. Линия Y=0 имеет нулевую вероятность, поэтому отношение P(X∈E,Y=0)/P(Y=0) не определено. Для положительно вероятного приближённого условия, напротив, обычное нормирование законно.
Рассмотрим условие |Y|<εf(X), где f строго положительна и ограниченна, а ε достаточно мало, чтобы полоса не обрезалась границами квадрата. Вертикальная длина полосы при X=x равна 2εf(x). Следовательно, выбранное условие усиливает значения X пропорционально f(x).
Площади дают точную условную плотность
Масса полосы равна (ε/2)∫₋₁¹f(x)dx. Масса её части с X в множестве E равна (ε/2)∫_Ef(x)dx. После деления получаем плотность f(x)/∫₋₁¹f, которая вообще не зависит от ε, пока выполняется условие отсутствия обрезания.
При f=1 это равномерная плотность 1/2. При f=1+x² большие по модулю X получают больший вес, хотя обе последовательности полос стягиваются к той же линии Y=0. Таким образом, один геометрический предел событий не определяет условный предел без указания всей процедуры приближения.
Это не противоречит обычной условной плотности
Стандартное наблюдение Y с точностью ε использует полосу постоянной ширины |Y|<ε и даёт обычный условный закон по плотности. Переменная ширина |Y|<εf(X) использует дополнительное условие, зависящее от X. Поэтому оно описывает другую операционную процедуру отбора, а не опровержение формулы условной плотности.
В общем определение условного ожидания обеспечивает единственность лишь с точностью до множеств меры ноль. Значение версии на одном исключительном событии не восстанавливается только по интегральным равенствам. Для интерпретации измерения нужно назвать наблюдаемую переменную, допуск и правило отбора, а не только окончательную линию.
Две полосы вокруг одной линии
Условие. Пара (X,Y) равномерна на квадрате [−1,1]². Для 0<ε≤1/2 сравните E[X²] при условиях |Y|<ε и |Y|<ε(1+X²), затем рассмотрите предел ε→0.
- Обе полосы находятся внутри квадрата; максимальная полуширина второй равна 2ε≤1. Их вероятности равны ε и (4/3)ε соответственно.
- Для первой полосы условная плотность X равна 1/2, поэтому E[X²]=(1/2)∫₋₁¹x²dx=1/3.
- Для второй плотность равна (3/8)(1+x²). Среднее квадрата равно (3/8)(2/3+2/5)=2/5.
- Результаты не зависят от ε на всём указанном диапазоне. Поэтому пределы равны 1/3 и 2/5, хотя обе полосы сужаются к линии Y=0.
Ответ. Для постоянной ширины E[X²]=1/3, для ширины ε(1+X²) — 2/5; пределы различаются.
Проверка. Обе условные плотности нормируются: интегралы равны единице. При ε=1/4 прямой расчёт площадей даёт вероятности условий 1/4 и 1/3. Полиномиальные первообразные отдельно подтверждают два значения момента.
Где легко ошибиться. Не называйте оба результата значением одной заранее зафиксированной версии E[X²|Y=0]. Вторая полоса содержит X в самом правиле отбора. Смена процедуры приближения означает смену положительно вероятных условий, из которых строится предел.
Проверьте понимание
Вопросы к этой главе
Можно ли считать условие Y=0 невозможным физически?
Математически оно имеет нулевую массу в непрерывной модели, но измерительный прибор обычно сообщает конечный допуск. Тогда важна именно область допуска и её вероятность, а не буквальная дробь с нулевым знаменателем.
Почему нужно ограничение ε≤1/2?
Оно гарантирует, что полоса переменной ширины целиком лежит в квадрате. При большем ε часть вертикальных сечений обрезалась бы, и плотность уже не была бы пропорциональна всему выражению 1+x².
Сверить определения и условия
Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.
- MIT 18.175, Lecture 25, conditional expectation
Прочитаны определения версии условного ожидания и единственности до множеств меры ноль, PDF-слайды 4–5. Собственный пример двух полос выведен через площади; примеры лекции не используются.
Мягкое свидетельство: обновление Джеффри по изменившимся весам разбиения
Сообщение может изменить уверенность в категории, не утверждая, какая категория реализовалась. В таком случае нужно различать новое распределение разбиения и вероятностный механизм получения самого сообщения.
Перед началом: Условная вероятность; Точная арифметика.
Сохраняется внутренний закон блока
Пусть B₁,…,Bₖ — непересекающиеся события положительной исходной вероятности, покрывающие всё пространство. Новый анализ задаёт веса qᵢ с суммой один. Если принято предположение, что внутри каждого Bᵢ относительные вероятности не меняются, то новое значение события A равно ΣqᵢP(A|Bᵢ). Это правило Джеффри. Оно распределяет новую массу блока между его исходами в прежних пропорциях и потому полностью определяет новый закон на конечном пространстве.
Мягкое свидетельство отличается от правдоподобия
Вес qᵢ является уже обновлённой вероятностью блока. Его нельзя ещё раз умножать на старую P(Bᵢ), как будто qᵢ было вероятностью сообщения при этом блоке. В обычной байесовской задаче известны likelihood ℓᵢ=P(сообщение|Bᵢ), и новые веса сначала получают нормировкой ℓᵢP(Bᵢ). Если сообщение дополнительно различает исходы внутри блока, условный закон A|Bᵢ также меняется и предпосылка сохранения внутренних пропорций неверна.
Нулевая и последовательная информация требуют осторожности
Когда qᵢ=1 для одного блока, правило переходит в обычное условие по этому событию. Но положительная новая масса исходно невозможного блока не определяет его внутренний закон: потребуется отдельная модель расширения поддержки. Последовательные обновления по разным пересекающимся разбиениям обычно зависят от порядка. Поэтому полезно сохранять не только итоговую вероятность, но и то разбиение, для которого предполагалась неизменность условных распределений.
Разобранная задача
Условие. До нового сообщения P(B)=1/5, P(A|B)=4/5 и P(A|не B)=1/10. Новая экспертная информация задаёт Pнов(B)=1/2 при сохранении внутренних условных законов. Найдите Pнов(A) и сравните с ошибочным повторным взвешиванием старым prior.
- Исходная вероятность A равна (1/5)(4/5)+(4/5)(1/10)=6/25. Это значение полезно для сравнения, но не является множителем нового ответа.
- По новым весам получаем Pнов(A)=(1/2)(4/5)+(1/2)(1/10)=9/20.
- Если ошибочно читать новые веса (1/2,1/2) как likelihood, после нормировки они оставят старые массы B=(1/5,4/5), потому что оба likelihood одинаковы.
- Ошибочная процедура поэтому вернёт прежние 6/25, хотя условие задачи прямо задаёт новую массу B равной половине.
Ответ. Правильное новое значение A равно 9/20. Оно согласовано с новым весом B; ответ 6/25 игнорировал бы изменение распределения разбиения.
Проверка. Построим четыре атома (A∩B,не A∩B,A∩не B,не A∩не B): после обновления их массы равны 2/5,1/10,1/20,9/20. Суммы дают B=1/2 и A=9/20, проверяя обе требуемые характеристики.
Где легко ошибиться. Не смешивайте posterior-вес блока с likelihood сообщения. Они занимают разные места в вычислении, а повторное использование исходного prior меняет явно заданный новый закон.
Проверьте понимание
Вопросы к этой главе
Можно ли считать правило универсальным для любого нового сообщения?
Нет. Оно опирается на сохранение распределений внутри блоков. Если свидетельство изменяет эти внутренние отношения, задавать нужно более подробный механизм обновления.
Что будет, если новые веса совпадают со старыми?
При неизменных внутренних законах весь исходный закон сохранится. Это проверяется обычной формулой полной вероятности по исходному разбиению.
Сверить определения и условия
Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.
- Richard Jeffrey: Subjective Probability, section2.3
Вероятностная кинематика Джеффри: новые веса разбиения при сохранении условных законов внутри его частей.
Два теста без известной зависимости: достижимые границы posterior
Для двух положительных сигналов posterior может лежать от 11/47 до 1, хотя отдельные характеристики обоих сигналов заданы точно. Число 4/7 получается лишь при дополнительной условной независимости. Построим таблицы, достигающие обеих границ.
Перед началом: Формула Байеса; Совместная таблица двух бинарных признаков.
Отдельные характеристики не задают двойной сигнал
Два бинарных сигнала с известными отдельными вероятностями внутри H и его дополнения. Их условная зависимость не задана; prior0<π<1 известен.
Пусть H встречается с вероятностью 1/10. При H первый сигнал положителен с вероятностью 4/5, второй —3/4. При дополнении H эти вероятности равны 1/5 и 1/4. Требуется вероятность H после двух положительных результатов. Условная независимость сигналов не объявлена: они могут иметь общий источник сбоев или согласованное правило выдачи внутри каждого класса.
Обозначим a=P(++|H), b=P(++|не H). Байесовская дробь равна f(a,b)=πa/[πa+(1−π)b]. Из отдельных вероятностей ещё неизвестны ни a, ни b. Перемножение двух вероятностей внутри класса выбрало бы один конкретный совместный механизм. Отсутствие сведений о зависимости не является доказательством независимости и не позволяет объявлять этот выбор единственным.
Четыре клетки дают точные допустимые интервалы
Если две отдельные вероятности равны u и v, совместная положительная клетка t определяет всю таблицу: (++,+−,−+,−−)=(t,u−t,v−t,1−u−v+t). Все четыре массы неотрицательны ровно при max(0,u+v−1)≤t≤min(u,v). Каждый t этого отрезка даёт настоящий совместный закон. Это не только оценка сверху и снизу: сами таблицы доказывают достижимость.
В нашем классе H получаем a∈[11/20,3/4], а в его дополнении b∈[0,1/5]. Таблицы внутри разных классов можно выбирать независимо: они описывают разные условные эксперименты. На прямоугольнике допустимых параметров f возрастает по a и убывает по b. Это видно после дифференцирования при положительном знаменателе либо при сравнении odds πa/[(1−π)b]. Поэтому минимум находится на меньшем a и большем b, а максимум — на противоположном краю.
Граница posterior не является выбранной моделью зависимости
Достижимый интервал отвечает на вопрос, что гарантируют одни объявленные частоты. Его ширина может сохраняться даже при совершенно точном знании этих частот: это не ошибка конечной выборки, а неполная идентификация совместного закона. Дополнительные измерения двойных исходов способны сузить интервал; увеличение числа отдельных тестов без регистрации их совместности не обязательно это сделает.
На границах следует проверять вероятность наблюдаемого условия. Если b=0 и a>0, два положительных сигнала означают H с вероятностью один в данной модели. Если же a=b=0, такой результат невозможен и posterior не определён. Поэтому нельзя механически подставлять нулевые концы в дробь и назначать значение ноль. В разобранном примере a всегда положительно, и эта проблема не возникает.
Достижимые нижний и верхний posterior
Условие. Для π=1/10 даны P(+₁|H)=4/5,P(+₂|H)=3/4 и P(+₁|не H)=1/5,P(+₂|не H)=1/4. Зависимость неизвестна. Найдите точный диапазон P(H|++).
- Границы совместных положительных результатов: a от 11/20 до 15/20, b от 0 до 4/20. Они следуют из неотрицательности четырёх условных клеток.
- Минимум при a=11/20,b=1/5 равен(11/200)/(11/200+36/200)=11/47.
- Нижний конец достигают таблицы H:(11,5,4,0)/20 и не H:(4,0,1,15)/20 в порядке(++,+−,−+,−−). Проверка сумм восстанавливает все четыре исходные характеристики.
- При a=15/20,b=0 допустимы H:(15,1,0,4)/20 и не H:(0,4,5,11)/20. Положительная масса++ принадлежит только H, поэтому posterior=1.
- При условной независимости a=(4/5)(3/4)=3/5,b=(1/5)(1/4)=1/20. Тогда posterior=(3/50)/(3/50+9/200)=4/7, что лежит внутри диапазона, но не вынуждается данными.
Ответ. Точный достижимый интервал posterior —[11/47,1]. Значение 4/7 требует дополнительной условной независимости.
Проверка. Обе пары крайних таблиц неотрицательны, имеют сумму 1 и нужные отдельные вероятности. Непрерывное изменение таблиц между ними сохраняет допустимость; положительный знаменатель и непрерывность дроби дают все промежуточные posterior.
Где легко ошибиться. Общая независимость двух сигналов в смешанной популяции не заменяет независимость отдельно при H и отдельно при не H. В байесовское обновление входят именно условные совместные законы.
Проверьте понимание
Вопросы к этой главе
Почему верхняя граница равна единице, хотя каждый сигнал ошибается?
По отдельности ошибки могут встречаться на разных объектах класса не H. Допустима таблица, где оба ложных положительных результата никогда не совпадают; тогда двойной сигнал исключает этот класс.
Является ли этот интервал доверительным?
Нет. Здесь частоты и prior считаются точными, а диапазон отражает только неизвестную зависимость. Неопределённость оценённых частот потребовала бы дополнительных статистических границ.
Сверить определения и условия
Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.
- Martin Haugh, Columbia, An Introduction to Copulas, Theorem4
Границы Фреше–Хёффдинга для совместных вероятностей и их достижимость в двух измерениях. Байесовская оптимизация по двум условным таблицам и крайние механизмы выведены здесь.
Источники и работа с материалом
Объяснение, примеры и вопросы написаны для erudeet. Факты и определения сверены по источникам ниже; это ссылки для самостоятельной проверки.
Продолжить разбираться
Как исходная доля влияет на обратную вероятность
Пересчитываем долю источника среди отмеченных изделий, учитываем исходные объёмы групп и избегаем подмены обратной вероятности вероятностью сигнала внутри группы.
Открыть темуКак взвесить вероятности события из разных источников
Находим общую вероятность события из нескольких непересекающихся источников, взвешиваем по реальным долям выбора и проверяем порядок генерации случайного объекта.
Открыть тему