Вероятность и статистика · объяснение и практика

Производящая функция вероятностей: коэффициенты, среднее и второй момент

Читаем конечный вероятностный многочлен по коэффициентам, выводим ожидание из производной в единице и восстанавливаем обычный второй момент из факториального перед вычислением дисперсии.

Рука ставит оранжевый столбик между двумя синими столбиками разной высоты.

В теме Случайные величины и распределения · Учебная карта

Главная мысль

Для неотрицательной целой величины с конечным набором значений запишем G(z)=p₀+p₁z+…+pₘzᵐ. Коэффициент при zᵏ равен P(X=k), а G(1)=1. Производная в единице даёт E(X). Вторая производная даёт E(X(X−1)), поэтому Var(X)=G′′(1)+G′(1)−(G′(1))². Все действия здесь выполняются с конечным многочленом.

Степень называет результат, коэффициент — его вероятность

Если в многочлене отсутствует квадратный член, вероятность значения два равна нулю. Это не означает, что степень два нужно пропустить при чтении остальных членов: кубический член по-прежнему описывает результат три. Свободный член соответствует нулю, а не единице. Такое соглашение позволяет хранить конечный закон в одной алгебраической записи.

Не любой многочлен является вероятностным. Его коэффициенты должны быть неотрицательными и в сумме давать единицу. Проверка G(1)=1 устанавливает только сумму, но не знаки отдельных коэффициентов. Например, отрицательный свободный член нельзя исправить положительными остальными так, чтобы он стал вероятностью. Сначала проверяют сам закон, а затем пользуются его моментами.

Подстановка единицы после производной восстанавливает веса

При дифференцировании pₖzᵏ превращается в kpₖzᵏ⁻¹. Подстановка единицы оставляет kpₖ. После суммирования получается обычное вероятностно взвешенное среднее. Почему используется именно единица, а не ноль? Единица сохраняет все степени, тогда как ноль обнулит почти все из них и выделит лишь один коэффициент.

Для G(z) = (1+2z+z³)/4 вероятности нуля, единицы и тройки равны одной четверти, половине и одной четверти. Производная равна (2+3z²)/4, поэтому среднее равно пяти четвертям. Ожидание может не быть возможным значением величины. По производной вычислен усреднённый показатель, а не новый исход, который нужно добавить к исходному закону.

Пример

Для G(z)=(1+2z+z³)/4 найдите среднее и дисперсию, пояснив роль второй производной.

G′(1)=5/4, G′′(1)=3/2. Второе число ещё не равно E(X²): нужно прибавить 5/4, получив 11/4. Затем вычитаем квадрат среднего 25/16 и получаем дисперсию 19/16. Все исходные коэффициенты неотрицательны и суммируются в единицу, поэтому многочлен действительно описывает закон.

Вторая производная теряет один вес в каждом произведении

Повторное дифференцирование даёт множитель k(k−1), а не квадрат k. Поэтому G′′(1) является ожиданием X(X−1). Чтобы получить E(X²), нужно прибавить E(X), поскольку X² = X(X−1)+X. После этого уже вычитают квадрат среднего для дисперсии. Пропуск прибавления среднего может привести даже к отрицательной якобы дисперсии.

В нашем примере G′′(1) равно трём вторым. Обычный второй момент равен 3/2+5/4 = 11/4. Дисперсия получается 11/4−25/16 = 19/16. Прямая проверка по квадратам значений даёт тот же второй момент: ноль, половина и девять четвертей суммируются в одиннадцать четвертей. Два способа различаются записью, но проверяют один и тот же закон.

Сумма независимых счётчиков связана с умножением кодов

У независимых величин вероятность пары значений равна произведению вероятностей. При умножении их многочленов степени складываются, поэтому коэффициенты при одинаковой итоговой степени собирают вероятность суммы. Это объясняет полезность такого кода в задачах о нескольких счётчиках. Простое сложение многочленов дало бы другую сумму коэффициентов и обычно нарушило нормировку.

Независимость нужна для указанного произведения кодов, хотя линейность ожидания суммы её не требует. Эти два утверждения нельзя смешивать. При бесконечном наборе значений работа с рядом требует дополнительных условий для моментов и предельных переходов. Ограничение конечным законом в этом уроке делает каждое дифференцирование обычной операцией над многочленом и сохраняет все проверки на уровне школьной алгебры.

От чтения к действию

А теперь — вы

У вероятностного многочлена G′(1)=2 и G′′(1)=5. Чему равна дисперсия?

Частые вопросы

G′′(1) сразу является вторым моментом?

Нет. Она даёт E(X(X−1)). К обычному E(X²) возвращаются добавлением первого момента.

Почему для среднего подставляют единицу, а не ноль?

При единице все степени сохраняют вклад после дифференцирования. При нуле почти все исчезают, и получается отдельный коэффициент, а не всё среднее.

Источники и работа с материалом

Объяснение, примеры и вопросы написаны для erudeet. Факты и определения сверены по источникам ниже; это ссылки для самостоятельной проверки.

Продолжить разбираться