Центральная предельная теорема
Как быстро среднее арифметическое сходится к математическому ожиданию?
Пусть, как в законе больших чисел Чебышева, - сумма независимых и одинаково распределенных величин с конечной дисперсией. Тогда по ЗБЧ с ростом . Или, после приведения к общему знаменателю,
Если при делении на мы получили в пределе нуль (в смысле некоторой, все равно какой, сходимости), резонно задать себе вопрос: а не слишком ли на большую величину мы поделили? Нельзя ли поделить на что-нибудь, растущее к бесконечности медленнее, чем , чтобы получить в пределе не нуль (но и не бесконечность)?Можно поставить тот же вопрос иначе. Есть последовательность, стремящаяся к нулю. Можно ли ее домножить на что-либо растущее, чтобы "погасить" это стремление к нулю и получить, тем самым, что-нибудь конечное и ненулевое в пределе?
Оказывается, что уже последовательность случайных величин
не сходится к нулю. Распределение членов этой последовательности становится все более похожим на нормальное распределение! Можно считать, что такая последовательность сходится к случайной величине, имеющей нормальное распределение, но сходится никак не по вероятности, а только в смысле сходимости распределений, или "слабой сходимости".Слабая сходимость
Пусть задана последовательность случайных величин , задано некоторое распределение с функцией распределения и пусть - произвольная случайная величина, имеющая распределение .
Определение 46. Говорят, что последовательность случайных величин сходится слабо или сходится по распределению к случайной величине и пишут: , если для любого такого, что функция распределения непрерывна в точке , имеет место сходимость при .
Итак, слабая сходимость - это сходимость функций распределения во всех точках непрерывности предельной функции распределения.
Замечание. Заметим, что сходимость есть сходимость распределений, а не случайных величин: если "предельную" величину заменить на другую величину с тем же распределением, ничего не изменится: в том же смысле .
Следующее свойство очевидно. Если нет - нужно вернуться к определению и свойствам функций распределения.
Свойство 25. Если , и функция распределения непрерывна в точках и , то . Если во всех точках и непрерывности функции распределения имеет место сходимость , то .
Вместо открытого интервала можно взять полуоткрытый или замкнутый.
Свойство 26.
- Если , то .
- Если , то .
Итак, сходимость по вероятности влечет слабую сходимость. Обратное утверждение в общем случае смысла не имеет (см. замечание выше). Однако из слабой сходимости к постоянной вытекает сходимость по вероятности.
Доказательство. Первое утверждение мы докажем чуть позже.
Докажем, что слабая сходимость к постояннной влечет сходимость по вероятности. Пусть , т.е.
при любом , являющемся точкой непрерывности предельной функции , т.е. при всех .Возьмем произвольное и докажем, что :
поскольку в точках и функция непрерывна, и, следовательно, имеет место сходимость последовательностей к и к .Осталось заметить, что не бывает больше , так что по свойству предела зажатой последовательности .
Следующее свойство приводит пример операций, которые можно применять к слабо сходящимся последовательностям - домножать их на последовательности, сходящиеся по вероятности к постоянным величинам.
Замечание Свойство "предел суммы равен сумме пределов" для слабой сходимости просто бессмысленно: сходимости , означают, что нам известны предельные распределения этих последовательностей. Но предельное распределение их суммы может быть различным в зависимости от совместного распределения и . Иное дело, когда одно из предельных распределений вырождено. Тогда предельная функция распределения суммы или произведения определена однозначно.