Сходимость последовательностей случайных величин

случайный математический вероятность число Пусть на вероятностном пространстве определены случайные величины со значениями .

Определение 1. Последовательность сходится по вероятности (п.в) к величине X, если.

9.1.1).

Обозначим сходимость к X по вероятности символом .

Определение 2. Последовательность сходится к X почти наверное (п.н) (с вероятностью единица), если.

(9.1.2).

Обозначим эту сходимость символом .

Определение 3. Говорят, последовательностьсходится к X в среднеквадратическом (с.к.), если.

Обозначим эту сходимость символом .

Определение 4. Последовательность сходится к X по распределению (п.р) с обозначением, если.

(9.1.4).

Здесь Fn, Fфункции распределения Xn и X, причем сходимость {Fn} к F подразумевается для всех x, за исключением, может быть, точек разрыва F.

Сходимости {Xn} к X, введенные определениями 1−4, связаны между собою отношениями, показанными на рис. 9.1.1.

Закон больших чисел

Рассмотрим ряд теорем, образующих группу теорем закона больших чисел. В качестве леммы необходимой для доказательства теорем докажем важное общее неравенство, известное под названием неравенства Чебышева.

Неравенство Чебышева.

Пусть имеется случайная величина X с математическим ожиданием тх и дисперсией Dx. Неравенство Чебышева утверждает, что, каково бы ни было положительное число, вероятность того, что величина X отклонится от своего математического ожидания не меньше чем на, ограничена сверху величиной —:

(9.2.1).

Доказательство. 1. Пусть величина X дискретная, с рядом распределения:

Изобразим возможные значения величины X и ее математическое ожидание тх в виде точек на числовой оси Ох (рис. 9.2.1).

Зададимся некоторым значением и вычислим вероятность того, что величина X отклонится от своего математического ожидания не меньше чем на :

(9.2.2).

Для этого отложим от точки тх вправо и влево по отрезку длиной а; получим отрезок АВ. Вероятность (9.2.1) есть не что иное,.

как вероятность того, что случайная точка X попадет не внутрь отрезка АВ, а вовне его:

Для того чтобы найти эту вероятность, нужно просуммировать вероятности всех тех значении xi, которые лежат вне отрезка АВ. Это мы запишем следующим образом:

(9.2.3).

где запись под знаком суммы означает, что суммирование распространяется на все те значения i, для которых точки лежат вне отрезка АВ.

С другой стороны, напишем выражение дисперсии величины X. По определению:

(9.2.4).

Так как все члены суммы (9.2.4) неотрицательны, она может только уменьшиться, если мы распространим ее не на все значения xi, а только на некоторые, в частности на те, которые лежат вне отрезка АВ:

(9.2.5).

Заменим под знаком суммы выражение через. Так как для всех членов суммы, то от такой замены сумма тоже может только уменьшиться; значит.

(9.2.6).

Но согласно формуле (9.2.3) сумма, стоящая в правой части (9.2.6). есть не что иное, как вероятность попадания случайной точки вовне отрезка АВ; следовательно,.

откуда непосредственно вытекает доказываемое неравенство.

2. В случае, когда величина X непрерывна, доказательство проводится аналогичным образом с заменой вероятностей pi элементам вероятности, а конечных сумм — интегралами. Действительно,.

где f (x) — плотность распределения величины X. Далее, имеем:

где знак под интегралом означает, что интегрирование распространяется на внешнюю часть отрезка АВ.

Заменяя под знаком интеграла через, получим:

откуда и вытекает неравенство Чебышева для непрерывных величия.

Теорема Чебышева.

Пусть последовательность независимых случайных величин, имеющих одинаковые и. Тогда при их среднее арифметическое сходится по вероятности к их математическому ожиданию, то есть.

Доказательство. Выше было показано, что величина.

имеет числовые характеристики.

Применим к случайной величине Y неравенство Чебышева:

Как бы мало ни было число, можно взять п таким большим, чтобы выполнялось неравенство.

где — сколь угодно малое число. Тогда.

откуда, переходя к противоположному событию, имеем:

эквивалентно.

что и требовалось доказать.

Обобщенная теорема Чебышева.

Теорема Чебышева легко может быть обобщена на более сложный случай. Обобщенная теорема Чебышева формулируется следующим образом. Если независимые случайные величины с математическими ожиданиями и дисперсиями и если все дисперсии ограничены сверху одним и тем же числом L:

то при возрастании п среднее арифметическое наблюденных значений величин сходится по вероятности к среднему арифметическому их математических ожиданий. Запишем эту теорему в виде формулы. Пусть — сколь угодно малые положительные числа. Тогда при достаточно большом n.

Доказательство. Рассмотрим величину.

Ее математическое ожидание равно:

а дисперсия.

Применим к величине Y неравенство Чебышева:

или.

(9.2.7).

Заменим в правой части неравенства (9.2.7) каждую из величин большей величиной L. Тогда неравенство только усилится:

Как бы мало ни было, можно выбрать п настолько большим, чтобы выполнялось неравенство.

.

откуда, переходя к противоположному событию, получим доказываемое неравенство.

Теорема Маркова.

Закон больших чисел может быть распространен и на зависимые случайные величины. Обобщение закона больших чисел на случай зависимых случайных величин принадлежит А. А. Маркову.

Теорема. Если имеются зависимые случайные величины и если при.

.

то среднее арифметическое случайных величин сходится по вероятности к среднему арифметическому их математических ожиданий.

Доказательство. Рассмотрим величину.

. Очевидно, .

Применим к величине Y неравенство Чебышева:

Так как по условию теоремы при, то при достаточно большом п.

или, переходя к противоположному событию,.