Главная › Лекции › Лекции одного дата-шрушера (ВШЭ) — Теория вероятностей и статистика

Закон больших чисел и метод моментов

Лекция вводит сходимость по вероятности, доказывает закон больших чисел и показывает, как он используется в методе моментов.

Лекции одного дата-шрушера⏱ 101 минОткрыть на YouTube ↗

Пройти весь тест — 10 вопросов →

Бесплатно, нужен вход через Google. Готовый тест не тратит часовой лимит.

О чём лекция

Сначала вводится сходимость по вероятности как адаптация обычного предела к последовательностям случайных величин. В отличие от детерминированной последовательности, случайная величина может время от времени выходить за фиксированный коридор, поэтому требуется, чтобы вероятность такого выхода стремилась к нулю. Разбираются свойства этой сходимости и теорема Мана—Вальда—Слуцкого о переходе к пределу при применении непрерывных функций. На примере экспоненциальных случайных величин показано доказательство сходимости по определению.

Затем рассматриваются неравенства Маркова и Чебышёва, позволяющие оценивать вероятности отклонений при ограниченной информации о распределении. С их помощью доказывается закон больших чисел Чебышёва: для попарно независимых одинаково распределённых случайных величин с конечной дисперсией выборочное среднее сходится по вероятности к математическому ожиданию. Обсуждаются также закон больших чисел Хинчина и сильная форма закона больших чисел.

Практическое применение показано через метод моментов. Если известна модель распределения данных, выборочные моменты при большом объёме наблюдений приравнивают к теоретическим моментам и решают полученные уравнения относительно неизвестных параметров. На примере равномерного распределения строятся две оценки параметра, после чего вводятся понятия состоятельности, несмещённости и эффективности. Подчёркивается, что корректность метода зависит от выбранной модели и качества её предпосылок.

Ключевые идеи

Сходимость по вероятности нужна для описания предела последовательности случайных величин.
Случайная величина сходится по вероятности к пределу, если вероятность выхода за любой фиксированный коридор стремится к нулю.
Неравенства Маркова и Чебышёва дают верхние оценки вероятностей больших отклонений.
Законы больших чисел утверждают, что среднее большого числа случайных величин стабилизируется около их математического ожидания.
Закон больших чисел Чебышёва требует попарной независимости, одинакового распределения и существования конечной дисперсии.
Закон больших чисел позволяет оценивать неизвестные параметры модели по выборочным средним.
Метод моментов строит оценки, приравнивая выборочные моменты к теоретическим моментам распределения.
Оценки сравнивают по состоятельности, несмещённости и эффективности.

Примеры вопросов

Пусть случайные величины X_n и константа a заданы на одном вероятностном пространстве. Какое условие означает, что X_n сходится к a по вероятности?

AДля каждого ε>0 вероятность события |X_n−a|>ε стремится к нулю при n→∞
BДля каждого ε>0 вероятность события |X_n−a|>ε стремится к единице при n→∞
CВероятность равенства X_n=a становится равной единице уже при некотором фиксированном n
DСреднее значение X_n−a равно нулю для каждого n

Показать ответ

Верный ответ: A. Сходимость по вероятности означает, что вероятность отклонения X_n от a больше любого заранее заданного положительного ε исчезает при увеличении n.

Пусть случайные величины \(X_n\) сходятся по вероятности к константе \(c\), а функция \(g\) непрерывна в точке \(c\). Какое утверждение корректно описывает поведение преобразованных случайных величин?

A\(g(X_n)\) сходится по вероятности к \(c\) независимо от значения \(g(c)\)
BДля сходимости \(g(X_n)\) необходимо, чтобы \(g\) была линейной на всей области определения
C\(g(X_n)\) сходится по вероятности к \(g(c)\)
D\(g(X_n)\) обязательно сходится почти наверное к \(g(c)\)

Показать ответ

Верный ответ: C. Непрерывное преобразование сохраняет сходимость по вероятности: предел преобразованных величин равен преобразованию исходного предела. Непрерывность нужна в точке предельного значения, а не обязательно на всей области.

Пройти весь тест — 10 вопросов →

Свой тест по любой лекции

Вставьте ссылку на видео — LearnReplay сделает тест на понимание.

Создать тест →