Вероятность и статистика · объяснение и практика

Как χ² сравнивает таблицу категорий с независимостью

Как собрать χ² Пирсона из отклонений клеток от независимости, не спутать её с вероятностью гипотезы и заметить данные, для которых обычное приближение ненадёжно.

Рука ставит оранжевый столбик между двумя синими столбиками разной высоты.

В теме Таблицы категорий и качество классификации · Учебная карта

В маршруте Категориальные таблицы и проверяемые связи · 10 тем

Главная мысль

Статистика Пирсона для таблицы равна χ²=Σ(Oᵢⱼ−Eᵢⱼ)²/Eᵢⱼ. Большие значения означают большее расхождение с независимостью; получение p-значения дополнительно требует корректной модели и приближения распределения.

Отклонения сравнивают относительно ожидания

Пусть Oᵢⱼ — фактическая частота клетки, а Eᵢⱼ — ожидание из произведения предельных долей. Вклад клетки равен квадрату разности, делённому на E. Квадрат убирает знак, поэтому недостаток и избыток не взаимно уничтожаются. Деление учитывает масштаб: одинаковая абсолютная разница сильнее выделяется при меньшем ожидании.

Суммирование вкладов даёт неотрицательную статистику. Она равна нулю, если каждая наблюдаемая клетка совпала с ожидаемой. Но положительный результат сам по себе ещё не означает содержательно сильной или причинной связи. При случайной выборке отклонения возникают и без связи, поэтому нужна отдельная оценка распределения статистики при нулевой модели.

Полный расчёт небольшой таблицы

В таблице два на два наблюдены строки (18,12) и (12,18). Итоги строк и столбцов равны тридцати, общий объём шестьдесят. Поэтому во всех четырёх клетках E=15. Каждая разница по модулю равна трём и вносит 9/15. Сумма составляет 36/15=2,4 без поправки на непрерывность.

Это число не является вероятностью 2,4 и не переводится напрямую в проценты независимости. Для обычной полной таблицы два на два используют одну степень свободы и верхний хвост соответствующего χ²-распределения. Разные программные настройки, например поправка Йейтса, могут изменить численную статистику, поэтому метод расчёта нужно называть.

Пример

Каков вклад клетки с O=9,E=16?

Разность равна −7, квадрат — 49, вклад — 49/16. Отрицательное отклонение даёт положительный вклад, но само направление потерялось после возведения в квадрат.

Условия приближения важнее красивого числа

Стандартное χ²-приближение предполагает независимые наблюдения и достаточно большие ожидаемые частоты. Малые ожидания могут сделать его неточным; правила вроде порога пять служат ориентиром, а не универсальной математической гарантией для любого дизайна. Для разреженных таблиц рассматривают точные или подходящие имитационные методы.

При нулевом E деление вообще не определено: необходимо проверить пустые категории или структурные запреты. Проценты вместо целых частот без исходного объёма тоже не подходят. Если одна и та же группа отвечает до и после, строки уже связаны парами; такой эксперимент нельзя автоматически считать двумя независимыми выборками только потому, что его удалось записать прямоугольной таблицей.

От чтения к действию

А теперь — вы

Без поправок вычисляют вклад клетки с O=30,E=20. Каково его значение?

Частые вопросы

Что показывает большой χ²?

Большое суммарное расхождение наблюдений с подогнанной моделью независимости относительно ожидаемого масштаба, но не вероятность истинности гипотезы.

Можно ли считать статистику по одним процентам?

Без исходных объёмов нет: одинаковые проценты при разных N дают разную статистику и разную выборочную неопределённость.

Углублённый разбор

V Крамера: величина связи отдельно от объёма выборки

V Крамера отделяет масштаб связи в таблице от простого увеличения количества наблюдений. Само значение χ² растёт при пропорциональном тиражировании той же структуры.

Перед началом: Мультиномиальные частоты и фиксированные поля; Матрицы, условные вероятности и логарифмы.

Определение и постановка

Для полной таблицы r×c с N наблюдениями и непустыми категориями V=√[χ²/(N·min(r−1,c−1))]. Используется статистика Пирсона без произвольной подмены её другим критерием.

Вывод и вычислительный критерий

Если каждую клетку умножить на целое k, ожидаемые частоты также умножатся на k. Каждый вклад (O−E)²/E вырастет в k раз, значит χ² станет kχ². Но знаменатель V² одновременно станет kN·min(r−1,c−1), и отношение сохранится.

Поэтому маленький p-уровень при огромном N может сосуществовать с небольшим V. Проверка гипотезы и величина ассоциации отвечают разным вопросам: различима ли структура от независимости и насколько она выражена по выбранной нормировке.

Для таблицы два на два V совпадает с абсолютным значением коэффициента φ. Модуль не сообщает направление: перестановка меток одного признака способна изменить знак φ, но оставляет V прежним. Для номинальных категорий такое отсутствие знака естественно.

Условия и границы вывода

Нормировка предполагает как минимум две непустые категории в каждом признаке. После удаления пустых строк нужно заново считать фактическую размерность. Структурные запреты и необычная схема наблюдений требуют отдельной модели; формальная подстановка нарисованных размеров не исправляет ограниченную опору.

V из конечной выборки имеет смещение и неопределённость. Оно не доказывает причинность и не является долей объяснённой вариации непрерывного отклика. Сравнивать разные разбиения категорий только по одному V также следует осторожно: само преобразование данных меняет ассоциацию.

Число близко к единице означает сильную категориальную ассоциацию в этой таблице, но не обещает высокое качество любого правила прогнозирования в новой среде. Для последнего нужна отдельная задача проверки на сопоставимых наблюдениях.

Разобранная задача

Условие. Дана таблица ((3,1),(1,3)). Вычислите V и покажите, что удвоение всех частот оставит его неизменным.

  1. Общий объём равен8; строковые и столбцовые итоги равны4. Все ожидания равны2.
  2. Каждая разность по модулю равна1 и вносит1/2; χ²=2.
  3. Таблица два на два даёт min(r−1,c−1)=1, поэтому V²=2/8=1/4 и V=1/2.
  4. При удвоении χ²=4, N=16; отношение снова равно1/4.

Ответ. V Крамера равен1/2 и сохраняется при пропорциональном удвоении таблицы.

Проверка. Формула φ по детерминанту даёт (3·3−1·1)/√(4·4·4·4)=8/16=1/2. Она независимо подтверждает величину через поля и четыре исходные клетки.

Где легко ошибиться. V не получается делением p-значения на объём. Для него нужна сама χ²-статистика и явно заданная размерность таблицы.

Проверьте понимание

Что произойдёт с ненулевой V при умножении всех частот полной таблицы на пять?

Вопросы к этой главе

Может ли V измениться после объединения категорий?

Да. Укрупнение меняет и наблюдаемую структуру, и нормирующую размерность. Инвариантность при общем множителе частот не означает инвариантности при преобразовании категорий.

Почему не достаточно сообщить только χ²?

Её численное значение зависит от N даже при одинаковых пропорциях. V дополняет проверку гипотезы описанием величины ассоциации, сохраняя собственные ограничения.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

  • SciPy: contingency association

    Сверены определения мер связи категорий, включая V Крамера, и связь с критерием Пирсона. Масштабирование объёма и точные расчёты для симметричной таблицы выполнены самостоятельно.

Отношение правдоподобий G²: логарифмический критерий таблицы

Критерий G² сравнивает правдоподобия насыщенной и ограниченной моделей таблицы. Логарифм делает его отличным от квадратичного критерия Пирсона.

Перед началом: Мультиномиальные частоты и фиксированные поля; Матрицы, условные вероятности и логарифмы.

Определение и постановка

При наблюдённых Oᵢⱼ и модельных ожиданиях Eᵢⱼ статистика имеет вид G²=2ΣOᵢⱼln(Oᵢⱼ/Eᵢⱼ). Нулевая наблюдённая клетка вносит ноль по пределу xlnx, если ожидание положительно.

Вывод и вычислительный критерий

В мультиномиальной модели насыщенная оценка вероятности клетки равна O/N, а ограниченная оценка определяется нулевой моделью. Разность логарифмов максимальных правдоподобий содержит сумму Oln[(O/N)/(E/N)]. Общие нормировки сокращаются, удвоение даёт привычную девиансу.

Отдельные логарифмические слагаемые могут быть отрицательными, когда O<E. Неотрицательна их полная сумма при согласованных общих итогах и корректной вложенной подгонке. Нельзя обнулять отрицательные клеточные вклады: это изменило бы отношение правдоподобий.

При малых относительных отклонениях разложение логарифма приводит к χ² Пирсона в ведущем порядке. Однако равенство двух статистик для любой конечной таблицы не следует. Они используют разные функции расхождения и способны заметно различаться в разреженных случаях.

Условия и границы вывода

Если модель назначила нулевую вероятность наблюдённой положительной клетке, логарифмическое расхождение бесконечно: данные невозможны в этой модели. Это структурная несовместимость, которую нельзя скрывать заменой нуля маленьким числом без объявления новой модели.

Приближённый χ²-закон девиансы требует регулярности, достаточного объёма и верно посчитанной разности размерностей моделей. Само вычисление конечной суммы не удостоверяет точность такого приближения.

В отчёте полезно отдельно назвать статистику, логарифмическое основание и способ получения хвостовой вероятности. Натуральный логарифм даёт стандартную нормировку; логарифм по основанию два умножит масштаб на постоянный коэффициент.

Для ненулевых наблюдённых долей можно переписать G²=2N·D_KL(O/N∥E/N). Неотрицательность следует из логарифмического неравенства, а равенство требует совпадения долей. Такая запись объясняет, почему один отрицательный клеточный вклад допустим: неотрицательна общая сумма, а не каждое слагаемое отдельно.

Разобранная задача

Условие. Сравните таблицу ((3,1),(1,3)) с независимостью. Найдите точное выражение G² и сопоставьте его с χ²=2.

  1. Общий объём8, все поля равны4, поэтому ожидания всех четырёх клеток равны2.
  2. Две клетки со значением3 дают вместе6ln(3/2) внутри неудвоенной суммы.
  3. Две клетки со значением1 дают2ln(1/2). После удвоения получаем G²=12ln(3/2)+4ln(1/2).
  4. Объединение логарифмов даёт G²=4ln(27/16), приблизительно2,09299; это немного больше2.

Ответ. G²=4ln(27/16)≈2,09299; статистика Пирсона для той же таблицы равна2.

Проверка. Сравнение произведений правдоподобий даёт отношение насыщенной модели к независимой (3/2)⁶(1/2)²=729/256. Удвоенный логарифм этого отношения равен4ln(27/16).

Где легко ошибиться. Отрицательные клеточные логарифмические вклады нельзя удалять: неотрицательность относится к согласованной полной девиансе.

Проверьте понимание

Как учитывают клетку O=0 при E>0 в G²?

Вопросы к этой главе

Нужна ли отдельная поправка для O=0?

Вклад задаётся предельным значением ноль. Это не разрешает деление на нулевое модельное ожидание при положительном наблюдении; два случая различны.

Обязаны ли G² и χ² давать одинаковое решение?

Нет. Их асимптотическая близость не является точным конечным тождеством. При пограничных результатах значение имеют сама статистика и выбранное приближение.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

  • SciPy: power divergence

    Прочитаны определения степенного семейства, логарифмический вариант log-likelihood и поправка ddof к степеням свободы. Мультиномиальный вывод, биномиальная подгонка и граничные ограничения изложены самостоятельно.

Общий направленный сдвиг в нескольких таблицах: условный счёт CMH

Если таблицы разделены по заранее заданным стратам, общую направленную связь можно искать суммой условных отклонений. Разберём статистику без поправки непрерывности и сравним её с двумя похожими, но другими способами объединения данных.

Перед началом: Условные вероятности и математическое ожидание; Частоты и поля таблицы.

Случайна одна клетка в каждой страте

В страте k таблица два на два имеет фиксированные поля R₁k,R₂k,C₁k,C₂k и объём Nₖ. При нулевой условной независимости её верхняя левая клетка Aₖ гипергеометрична. Поэтому Eₖ=R₁kC₁k/Nₖ, а Vₖ=R₁kR₂kC₁kC₂k/[Nₖ²(Nₖ−1)] при Nₖ>1. Вырожденные страты с Vₖ=0 информации об ассоциации не дают.

Разные страты считаем независимыми. Знак Aₖ−Eₖ имеет один и тот же содержательный смысл во всех стратах: менять порядок категорий в одной из них нельзя. Сумма U=Σ(Aₖ−Eₖ) тогда имеет нулевое ожидание и дисперсию V=ΣVₖ. Именно сложение отклонений до возведения в квадрат нацеливает тест на согласованное направление.

Общий счёт отличается от суммы квадратов

При V>0 статистика CMH без поправки равна U²/V. В подходящем большомасштабном режиме её сравнивают с χ² одной степени свободы. Само число U²/V вычисляется и в малой таблице, но это не делает χ²-калибровку точной. Для маленьких фиксированных полей можно свернуть полные гипергеометрические законы и получить точный условный хвост.

Сумма отдельных (Aₖ−Eₖ)²/Vₖ ищет любое отклонение по стратам: противоположные знаки в ней не сокращаются. Это другой многомерный вопрос. Простое сложение исходных таблиц, напротив, теряет контроль за распределением участников по стратам и может смешать условную связь с различиями состава.

Направленный тест не доказывает однородность эффектов

Нулевая гипотеза требует независимости в каждой страте. Однопараметрическая интерпретация мощности особенно естественна для общего направления отношений шансов, однако малое значение CMH само по себе не свидетельствует об одинаковых эффектах. Сильные противоположные ассоциации способны взаимно погасить U. Однородность проверяется отдельно, а не следует из этой суммы.

Условное распределение исключает общий nuisance-параметр успеха внутри каждой страты посредством фиксации полей. Поэтому единицы должны принадлежать независимым стратам и соответствовать принятой схеме отбора. Повторные наблюдения одного человека, перекрывающиеся группы и произвольно подобранные после просмотра результатов страты нарушают простой вывод дисперсии.

Два согласованных условных отклонения

Условие. Даны независимые страты ((3,1),(1,3)) и ((2,1),(1,2)). Поля внутри каждой фиксированы. Найдите CMH без поправки непрерывности и сравните с суммой отдельных стандартизованных квадратов.

  1. В первой страте A=3,E=2,V=4/7. Во второй A=2,E=3/2,V=9/20; обе разности положительны.
  2. Общий счёт U=1+1/2=3/2, его дисперсия V=4/7+9/20=143/140. Складываем дисперсии благодаря независимости страт.
  3. Получаем U²/V=(9/4)/(143/140)=315/143. Отдельные квадраты дают 7/4+5/9=83/36 и отвечают другому вопросу.
  4. После простого объединения получится ((5,2),(2,5)); обычный Pearson χ² этой таблицы равен 18/7. Ни это число, ни 83/36 не заменяет найденный условный общий счёт.

Ответ. Статистика CMH равна 315/143; сумма отдельных квадратов — 83/36, Pearson объединённой таблицы — 18/7.

Проверка. Полные гипергеометрические распределения клеток первой и второй страт независимо дают дисперсии 4/7 и 9/20. Их конечное совместное перечисление подтверждает Var(U)=143/140.

Где легко ошибиться. Поправка непрерывности меняет формулу: (abs(U)−1/2)²/V не равна использованной статистике. Нельзя сравнивать результаты двух программ, не проверив настройку поправки и выбранную калибровку хвоста.

Проверьте понимание

Какова CMH-статистика без поправки для двух указанных страт?

Вопросы к этой главе

Почему здесь одна степень свободы?

Объединяется один знаковый счёт U. Это не число свободных клеток всех исходных таблиц: сумма отдельных квадратов сохраняла бы больше направлений отклонения.

Показывает ли CMH величину общего эффекта?

Нет. Он стандартизует свидетельство против условной независимости. Оценка общего отношения шансов и её допустимость при неоднородности — отдельная задача.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

  • SAS FREQ: Cochran–Mantel–Haenszel statistics

    Вебом проверен индексированный официальный раздел об условной ассоциации и CMH. Прямой HTML дал timeout, полного чтения страницы нет. Гипергеометрические моменты и собственные числа проверены отдельно конечным перечислением.

Анализ соответствий: ось стандартизованных остатков таблицы

Одинаковая сумма χ² может возникнуть при разных направлениях отклонений. Анализ соответствий раскладывает нормированные остатки на оси и показывает, какие строковые и столбцовые профили создают наблюдаемую ассоциацию. Выведем одну ось без численного SVD.

Перед началом: Условные вероятности и математическое ожидание; Частоты и поля таблицы.

Массы определяют геометрию

Для таблицы O с общим объёмом N положим P=O/N, r=P1 и c=Pᵀ1. Все используемые строковые и столбцовые массы должны быть положительными. Из P вычитается модель независимости rcᵀ, затем остаток стандартизуется: S=Dᵣ⁻¹ᐟ²(P−rcᵀ)D꜀⁻¹ᐟ². Это отличается от обычного центрирования числовых признаков: категории получают веса своих частот.

Квадрат нормы S по всем клеткам равен χ²/N. Эту величину называют полной инерцией. Умножение всех частот на одно число увеличивает χ², но сохраняет P, инерцию и координаты. Поэтому геометрическое различие профилей и объём статистического свидетельства следует сообщать раздельно.

Сингулярные направления выделяют компоненты связи

Разложим S=UΣVᵀ по ненулевым сингулярным числам σₗ. Главные координаты строк равны F=Dᵣ⁻¹ᐟ²UΣ, столбцов — G=D꜀⁻¹ᐟ²VΣ. Инерция оси равна σₗ²; суммы rᵢFᵢₗ² и cⱼGⱼₗ² обе возвращают её. Поэтому вклад редкой далеко расположенной категории оценивают с её массой, а не только по визуальному расстоянию.

Для ненулевой оси взвешенные средние координат равны нулю. Знак одновременно у соответствующих столбцов U и V можно изменить: рисунок зеркально отразится, а таблица и ассоциация останутся прежними. При повторяющихся сингулярных значениях отдельные оси внутри соответствующего подпространства также не определены единственным образом.

Что можно читать по карте

Близость двух строк в полном пространстве главных координат описывает сходство их условных столбцовых профилей в χ²-метрике. Но евклидово расстояние от произвольной точки-строки до точки-столбца при одновременной главной нормировке не имеет того же прямого смысла. Для совместного рисунка нужно назвать масштабирование, а не объявлять все расстояния одинаково интерпретируемыми.

Если показаны только первые оси, часть инерции потеряна. Категория с плохим качеством представления может выглядеть близкой к другой лишь из-за проекции. Пустые поля удаляют или исследуют отдельно: обратные квадратные корни нулевых масс не определены. Наконец, сама карта не исправляет зависимые наблюдения и не превращает ассоциацию в причинный эффект.

Одна ось таблицы два на три

Условие. Для O=((3,1,2),(1,3,2)) найдите полную инерцию, число ненулевых осей и главные координаты строк и столбцов. Используйте одинаковую главную нормировку двух групп.

  1. Объём N=12, массы строк обе 1/2, столбцов все 1/3. Ожидания независимости равны двум во всех клетках; χ²=4·(1²/2)=2.
  2. Матрица S имеет строки (a,−a,0),(−a,a,0), где a=√6/12. Её ранг один, единственное сингулярное число равно 2a=1/√6.
  3. Можно взять u=(1,−1)/√2 и v=(1,−1,0)/√2. Тогда F=(1/√6,−1/√6), G=(1/2,−1/2,0).
  4. Инерция равна σ²=1/6. Строковая проверка даёт (1/2)(1/6+1/6)=1/6, столбцовая — (1/3)(1/4+1/4)=1/6; это также χ²/N=2/12.

Ответ. Имеется одна ненулевая ось с инерцией 1/6; координаты строк ±1/√6, столбцов 1/2,−1/2,0.

Проверка. Умножение явно заданных u,σ,v возвращает каждую клетку S. Ранг один подтверждается противоположностью строк, а обе взвешенные нормы независимо совпадают с χ²/N.

Где легко ошибиться. Число 2 является χ², а не инерцией. Если забыть деление на N, геометрия начнёт искусственно меняться при простом тиражировании всех наблюдений и перестанет описывать только профили.

Проверьте понимание

Какова полная инерция таблицы O=((3,1,2),(1,3,2))?

Вопросы к этой главе

Почему третий столбец оказался в центре?

Его условное распределение по строкам совпадает с общим строковым распределением: две одинаковые частоты. У него нет отклонения по единственной ненулевой оси.

Смена знака оси меняет вывод?

Нет, если одновременно отражены обе группы координат. Сохраняются произведения, вклады в инерцию и отношения профилей; содержательный смысл имеет взаимное направление, а не подпись «слева».

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

  • SAS CORRESP: inertia decomposition and coordinates

    Прочитан официальный Displayed Output: квадраты сингулярных чисел, инерция, массы и вклады координат. Матрица стандартизации и собственное точное разложение проверены прямым произведением.

Скорректированный остаток клетки: поправка на оценённые поля

Большой остаток одной клетки полезен для диагностики, но его естественный масштаб зависит от полей таблицы. При оценённой независимой модели вариация клетки уменьшается из-за подгонки строк и столбцов.

Перед началом: Условная вероятность; Точная арифметика.

Остатки связаны ограничениями

Для таблицы r×c с общим числом n независимая модель даёт Eᵢⱼ=n rᵢ cⱼ, где rᵢ и cⱼ — наблюдённые доли соответствующих полей. Остаток Oᵢⱼ−Eᵢⱼ входит в χ² после деления на корень E. Но поля вычислены из той же таблицы, поэтому остатки не являются независимыми колебаниями клеток с полностью известными ожиданиями. Сумма остатков каждой строки и каждого столбца равна нулю.

Поправка учитывает доли строки и столбца

В обычной большой мультиномиальной выборке скорректированный остаток записывают как Rᵢⱼ=(Oᵢⱼ−Eᵢⱼ)/√[Eᵢⱼ(1−rᵢ)(1−cⱼ)]. Он учитывает снижение асимптотической остаточной дисперсии вследствие оценивания полей. Это приближённый диагностический масштаб, а не точное стандартное нормальное распределение при любых счётчиках. Для клетки почти полной строки или столбца поправка особенно существенна; вырожденные поля ноль или один требуют отдельного рассмотрения.

Локальная диагностика имеет собственный риск выбора

Поиск самой большой координаты после просмотра всей таблицы отличается от проверки одной заранее выбранной клетки. Даже если отдельные остатки приближённо нормальны, максимальная найденная координата подвержена множественному выбору. Связанные знаки остатков также означают, что несколько крупных значений могут описывать один и тот же контраст. Поэтому вместе с числом показывают исходные поля, направление отклонения и общий размер данных, а для формальных утверждений задают семейство сравнений и подходящую коррекцию.

Разобранная задача

Условие. Таблица 2×2 имеет строки (30,20) и (20,30), общий размер 100. Найдите обычный и скорректированный остатки первой клетки и сопоставьте с общей статистикой χ².

  1. Обе доли строк и столбцов равны 1/2. Ожидаемая частота каждой клетки равна 100·(1/2)·(1/2)=25.
  2. Отклонение первой клетки равно 5, обычный остаток равен 5/√25=1.
  3. Скорректированный знаменатель равен √[25·(1/2)·(1/2)]=5/2. Поэтому скорректированный остаток равен двум.
  4. Обычные остатки всех клеток равны 1,−1,−1,1. Сумма их квадратов даёт χ²=4; в 2×2 это квадрат единственного независимого стандартизованного контраста.

Ответ. Первый обычный остаток равен 1, скорректированный — 2. Общая статистика равна 4 при одной степени свободы.

Проверка. Контраст разности долей первой категории между двумя строками равен 0,6−0,4=0,2. Его объединённая нулевая стандартная ошибка равна √[0,5·0,5·(1/50+1/50)]=0,1, что независимо даёт стандартизованное значение 2.

Где легко ошибиться. Не складывайте квадраты скорректированных остатков как новую χ²-статистику: поправка создана для масштаба отдельных координат, а зависимость и общая степень свободы при таком сложении игнорируются.

Проверьте понимание

Какой знаменатель нужен скорректированному остатку первой клетки?

Вопросы к этой главе

Почему четыре скорректированных остатка не дают четыре независимых теста?

При фиксированных полях таблица 2×2 имеет одну свободную клетку. Остальные изменения определяются её изменением; знаки и размеры связаны ограничениями.

Можно ли читать значение 2 как точное p-значение?

Нет, это стандартизованное отклонение. Для перевода в приближённую вероятность нужны условия асимптотики, выбор направления проверки и учёт поиска по клеткам.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

  • statsmodels, Table.standardized_resids

    Стандартизованные остатки таблицы сопряжённости с поправкой на оценённые поля строк и столбцов.

Отношение шансов без смешения: неколлапсируемость при независимом факторе

Даже при одинаковой доле страт в двух группах условное и маргинальное отношения шансов могут различаться. Нелинейность преобразования риска в шансы создаёт несхлопываемость самой меры. Поэтому изменение логистического коэффициента после учёта прогностической страты само по себе не доказывает устранения смешения.

Перед началом: Условный риск и отношение шансов; Стандартизация общими весами.

Равные смеси не делают любую меру линейной

Бинарные воздействие X и исход Y, две страты Z. Распределение Z одинаково при обоих X, условные риски положительны и меньше единицы, условное отношение шансов одно и то же.

Пусть p_z=P(Y=1|X=0,Z=z), а условное отношение шансов равно r>1. Тогда риск при X=1 равен F_r(p_z)=rp_z/[1+(r−1)p_z]. Если X независимо от Z, обе группы используют одни и те же веса w_z. Маргинальные риски равны p̄₀=Σw_zp_z и p̄₁=Σw_zF_r(p_z).

Маргинальное отношение шансов вычисляют после этих двух усреднений: [p̄₁/(1−p̄₁)]/[p̄₀/(1−p̄₀)]. Оно не является средним условных отношений. В частности, даже постоянное r не обязано сохраниться при забывании Z. Здесь веса не меняются, поэтому объяснение через различную долю трудных случаев неприменимо.

Вогнутость показывает направление изменения

Для r>1 функция F_r возрастает и строго вогнута: F_r″(p)=−2r(r−1)/[1+(r−1)p]³<0. Поэтому при неодинаковых базовых рисках и положительных весах p̄₁<F_r(p̄₀). Переход к шансам монотонен, следовательно, маргинальное отношение строго меньше r. При этом F_r(p)>p во внутренней области, так что маргинальное отношение остаётся больше единицы.

Получаем ослабление к единице без переворота знака. При r=1 преобразование становится тождественным, и обе группы имеют одинаковые риски в каждой страте и в общей смеси. При одинаковых p_z вогнутость не создаёт строгого зазора. Эти случаи объясняют, какие предпосылки отвечают за различие, а не просто демонстрируют один набор дробей.

Разные параметры могут оба быть правильными

Условное отношение описывает сравнение внутри фиксированной страты; маргинальное — сравнение в объявленной смеси. Оба могут быть точно рассчитаны и отвечать своим вопросам. Ошибка возникает, если один интерпретируется как оценка другого без соответствия определений. Стандартизация уже выполнена общими весами, но она усредняет риски, а не делает нелинейную меру линейной.

Из одной наблюдённой таблицы нельзя заключить отсутствие всех причинных смещений. Независимость X,Z здесь исключает различие состава именно по заданной Z. Для причинного смысла нужны дополнительно обоснованные условия назначения воздействия и измерения исхода. Чистый вероятностный пример нужен, чтобы показать: несхлопываемость возможна даже без этой конкретной причины смешения.

Одинаковые страты, условные шансы втрое

Условие. В каждой страте обе группы имеют по 20 наблюдений. При Z=0 исход Y=1 встречается у X=0 в 2 случаях, у X=1 в 5; при Z=1 — соответственно в 10 и 15. Остальные наблюдения имеют Y=0. Рассмотрите доли как точно заданный закон.

  1. При Z=0 риски равны 1/10 и 1/4. Отношение шансов(1/3)/(1/9)=3. При Z=1 риски 1/2 и 3/4 дают 3/1=3.
  2. В обеих группах ровно половина наблюдений относится к каждой страте. Поэтому X и Z независимы; разные веса не могут объяснить изменение общей меры.
  3. После объединения группа X=0 имеет 12 успехов и 28 неуспехов, группа X=1 —20 и 20. Маргинальные риски 3/10 и 1/2.
  4. Маргинальное отношение шансов равно(20/20)/(12/28)=7/3. Оно строго между 1 и условным 3, хотя стандартизация общими равными весами ничего в этих рисках не меняет.
  5. Для контроля разность маргинальных рисков 1/2−3/10=1/5 равна среднему условных разностей: [(1/4−1/10)+(3/4−1/2)]/2=1/5. Линейная разность ведёт себя иначе, чем отношение шансов.

Ответ. Оба условных отношения равны 3, маргинальное —7/3. Веса страт одинаковы; различие вызвано несхлопываемостью меры, а не переворотом из-за разных смесей.

Проверка. Независимость X,Z проверяется по полной таблице их совместных долей: все четыре клетки равны 1/4. Подстановка среднего базового риска 3/10 в F₃ даёт 9/16, больше фактического среднего риска 1/2; это независимо подтверждает строгую вогнутость и направление ослабления.

Где легко ошибиться. Не называйте любое изменение отношения шансов после стратификации доказательством смешения. Сначала различите условный и маргинальный параметры и проверьте распределения страт.

Проверьте понимание

Чему равно маргинальное отношение шансов в разобранном примере статьи?

Вопросы к этой главе

Возник ли здесь парадокс Симпсона со сменой направления?

Нет. Воздействие повышает риск в обеих стратах и в общей смеси. Изменяется величина отношения шансов, а не знак сравнения; веса двух групп одинаковы.

Можно ли усреднить два условных отношения шансов, чтобы получить маргинальное?

В этом примере любое обычное среднее двух одинаковых троек равно 3, но маргинальный результат 7/3. Сначала нужно усреднить риски с целевыми весами, затем преобразовать их в шансы.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

  • Greenland, Robins и Pearl1999, Confounding and Collapsibility, §§5.1–5.3

    Поддерживает различие несхлопываемости отношения шансов и причинного смешения. Собственная восьмиклеточная таблица и направление эффекта через вогнутость преобразования риска выведены здесь отдельно.

Согласованные тройки: условное правдоподобие без неизвестных интерсептов

В согласованных тройках различаются не общие доли случаев, а положение единственного случая среди трёх фиксированных признаков. Условие на один случай сокращает каждый собственный интерсепт. Полученное правдоподобие использует внутригрупповые контрасты и не восстанавливает распространённость или абсолютные риски.

Перед началом: Логистические шансы; Условное правдоподобие и производная логарифма.

У каждого набора свой неизвестный базовый уровень

Независимые согласованные наборы с фиксированными значениями признака. В каждом условно выбран ровно один случай Y=1. Исходная Bernoulli-logistic модель имеет собственный неизвестный интерсептα_s каждого набора и общий коэффициентβ.

Пусть для набора s и объекта j шансы Y_sj=1 равны exp(α_s+βx_sj). До условия индикаторы независимы при фиксированных признаках и параметрах. Вероятность конфигурации с единственным случаем j пропорциональна exp(α_s+βx_sj): общий знаменатель∏ₖ[1+exp(α_s+βx_sk)] один и тот же для всех таких конфигураций.

После условияΣⱼY_sj=1 нормировка по возможному положению случая сокращает exp(α_s). Поэтому вероятность случая на позиции j равна exp(βx_sj)/Σₖexp(βx_sk). Каждыйα_s исчезает отдельно; это не одна общая поправка prior-шансов и не деление клеток на известные вероятности регистрации.

Счёт сравнивает наблюдённый признак с условным ожиданием

Условный логарифм правдоподобия равенΣ_s[βx_s,case−logΣⱼexp(βx_sj)]. Его производная — сумма наблюдённых case-признаков минус сумма их модельных ожиданий в наборах. Вторая производная равна минус сумме условных дисперсий x. Поэтому логарифм вогнут, а при хотя бы одном наборе с различными x имеет строго отрицательную кривизну для конечногоβ.

Существование конечного максимума проверяется отдельно. Если случаи всегда занимают только максимальные признаки, оценка способна уйти к+∞; если минимальные — к−∞. Строгая вогнутость сама не запрещает максимум на бесконечной границе. В примере наблюдённая суммарная величина лежит между крайними возможными суммами, и счёт меняет знак.

Условие сохраняет контрасты и удаляет абсолютный масштаб

Сдвиг всех x внутри набора на одну постоянную сокращается между числителем и знаменателем. Набор, где все x одинаковы, не сообщаетβ: вероятность положения случая равномерна независимо от коэффициента. Следовательно, оценивание питается различиями внутри согласованных наборов, а не различиями их неизвестных базовых частот.

Найденные условные вероятности суммируются в единицу по трём позициям при условии одного случая. Они не являются безусловными индивидуальными рисками заболевания. Интерсепты намеренно исключены, и из этого правдоподобия нельзя вычислить распространённость. Причинная интерпретация общегоβ также требует обоснования согласования и отсутствия иных внутригрупповых различий; одно сокращениеα_s этого не доказывает.

Два набора с тремя уровнями признака

Условие. В каждом из двух независимых наборов признаки равны(0,1,2), и имеется ровно один случай. В первом случае принадлежит признак 2, во втором 1. Найдите условную оценкуβ, положив u=expβ>0.

  1. Каждый знаменатель условной вероятности равен 1+u+u². Произведение числителей u²·u=u³, поэтому L(u)=u³/(1+u+u²)². Неизвестныеα₁,α₂ нигде не остаются.
  2. Счёт поβ равен 3−2(u+2u²)/(1+u+u²). Приравнивание нулю даёт 3+3u+3u²=2u+4u², то есть u²−u−3=0.
  3. Корни равны(1±√13)/2. Отрицательный недопустим для expβ, поэтому û=(1+√13)/2, β̂=log[(1+√13)/2], приблизительно 0,834.
  4. Приβ→−∞ счёт стремится к 3, приβ→+∞ — к−1. Его производная отрицательна, так как оба набора имеют ненулевую условную дисперсию признака. Найден единственный глобальный максимум.
  5. Подстановка û²=û+3 даёт знаменатель 4+2û. Условное ожидаемое значение признака равно(û+2û²)/(1+û+û²)=3/2, а два набора вместе воспроизводят наблюдённую сумму 3.

Ответ. û=(1+√13)/2, β̂=log û. Оценка конечна и единственна; наборные интерсепты не оцениваются.

Проверка. Прямое условное суммирование вероятностей трёх возможных положений случая при любых выбранныхα_s возвращает веса(1,u,u²)/(1+u+u²). Алгебраическая подстановка корня в счёт даёт ноль; отрицательная дисперсионная кривизна независимо удостоверяет максимум.

Где легко ошибиться. Не включайте в условную модель ещё один свободный общий интерсепт: он тоже сокращается и не идентифицируется. Три условных вероятности положений случая нельзя выдавать за три абсолютных риска.

Проверьте понимание

Каково û=expβ̂ для двух согласованных троек разобранного примера статьи?

Вопросы к этой главе

Что произойдёт, если прибавить 10 ко всем признакам одного набора?

Числитель и знаменатель умножатся на exp(10β), который сократится. Условное правдоподобие и оценкаβ не изменятся.

Почему двух неизвестныхα_s не нужно оценивать вместе сβ?

Условие на отдельный итог каждого набора удаляет их из закона наблюдаемого положения случая. Это точное алгебраическое сокращение при заявленной logistic модели, а не предположение, что интерсепты равны.

Сверить определения и условия

Объяснение и задачи написаны для erudeet. Эти источники используются для проверки понятий и границ модели.

  • statsmodels, ConditionalLogit: grouped conditional likelihood

    Поддерживает условную логистическую модель с отдельным интерсептом группы, исключённым из правдоподобия. Для случая одного события в тройке сокращение, счёт и точный корень выведены здесь без вызова библиотеки.

Источники и работа с материалом

Объяснение, примеры и вопросы написаны для erudeet. Факты и определения сверены по источникам ниже; это ссылки для самостоятельной проверки.

Продолжить разбираться