Вероятность и статистика · объяснение и практика

Что закон больших чисел говорит о среднем и чего не обещает

Отличите стабилизацию среднего от обещания следующего исхода и получите вероятностную оценку ошибки для независимых одинаково распределённых наблюдений.

Рука ставит оранжевый столбик между двумя синими столбиками разной высоты.

В теме Случайные величины и распределения · Учебная карта

Главная мысль

В простой версии закона больших чисел среднее независимых одинаково распределённых наблюдений с конечной дисперсией приближается к ожиданию по вероятности. Это не гарантирует монотонного улучшения каждой отдельной реализации.

Случайность среднего и наблюдаемого пути

Пусть X₁,…,Xₙ независимы и одинаково распределены, имеют ожидание μ и конечную дисперсию σ². Среднее тоже случайно: при повторении всей серии получится другое значение. Закон утверждает, что для любого фиксированного положительного допуска вероятность выйти за него стремится к нулю с ростом числа наблюдений. Речь идёт о вероятности ошибки, а не об отсутствии всех ошибок после выбранного номера.

Конкретная накопленная последовательность может то приближаться к μ, то удаляться. Новое наблюдение не обязано улучшать среднее. Более длинная серия также не меняет вероятность независимого следующего исхода: прошлый избыток одного результата не создаёт обязанности немедленно его компенсировать. Такое ожидание компенсации является отдельной ошибкой рассуждения.

Проверка через дисперсию среднего

У среднего из n независимых одинаковых наблюдений дисперсия равна σ²/n. Неравенство Чебышёва поэтому даёт P(|X̄−μ|≥ε)≤σ²/(nε²). При фиксированном ε правая часть стремится к нулю. Это доказывает указанную слабую версию закона при конечной дисперсии, хотя существуют и более общие формулировки с другими предпосылками.

Для индикаторов успеха с вероятностью p среднее равно относительной частоте, а дисперсия одного наблюдения p(1−p). При p=1/2, n=1000 и допуске 0,1 граница ошибки равна 0,25/(1000·0,01)=0,025. Это гарантированная верхняя оценка в модели, а не точная вероятность и не результат конкретного опыта.

Пример

У наблюдений μ=12, σ²=9. Сколько независимых одинаково распределённых наблюдений достаточно, чтобы оценка Чебышёва для ошибки среднего не менее 1 была не выше 0,01?

Нужно 9/n≤0,01, поэтому достаточно n≥900. Это достаточное условие именно для выбранной консервативной границы; оно не доказывает, что меньший объём обязательно плох.

Количество не исправляет неподходящий сбор

Если все наблюдения дублируют одну и ту же случайную величину, их среднее не получает дисперсию σ²/n. Сильная зависимость меняет расчёт. Если же выборка систематически исключает часть интересующей совокупности, большое число записей может точно оценить не тот параметр, который нужен. Закон не устраняет смещение отбора автоматически.

В практическом выводе сначала называют модель: что измеряется, почему наблюдения считаются независимыми и одинаковыми, существуют ли нужные моменты. Затем выбирают допуск и уровень вероятности. Фраза «данных много» сама по себе не является ни доказательством точности, ни гарантией применимости одной конкретной версии закона.

От чтения к действию

А теперь — вы

В независимых испытаниях с вероятностью успеха 1/2 наблюдался избыток неудач. Что закон больших чисел говорит о следующем испытании?

Частые вопросы

Среднее обязано становиться ближе после каждого нового наблюдения?

Нет. Стабилизация по вероятности не означает монотонного улучшения каждой траектории. Отдельный новый результат может временно увеличить отклонение.

Много данных устраняет смещение отбора?

Нет. Если наблюдают неподходящую группу или измеряют показатель систематически неверно, рост объёма не исправляет саму модель сбора.

Источники и работа с материалом

Объяснение, примеры и вопросы написаны для erudeet. Факты и определения сверены по источникам ниже; это ссылки для самостоятельной проверки.

Продолжить разбираться