Предельные теоремы теории вероятностей
Статистику Т называют статистикой критерия, а подмножество её значений — критической областью для гипотезы. То есть критической областью называют совокупность значений критерия, при которых нулевую гипотезу отвергают. Различают одностороннюю и двустороннюю критические области. Критическими точками называют точки, отделяющие критическую область от области принятия гипотезы. Тогда правосторонняя… Читать ещё >
Предельные теоремы теории вероятностей (реферат, курсовая, диплом, контрольная)
РЕФЕРАТ Пояснительная записка с., источников.
Ключевые слова: СЛУЧАЙНАЯ ВЕЛИЧИНА, ВЕРОЯТНОСТНОЕ РАСПРЕДЕЛЕНИЕ, ХАРАКТЕРИСТИЧЕСКАЯ ФУНКЦИЯ, ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА, СТАТИСТИЧЕСКАЯ ГИПОТЕЗА, КРИТЕРИЙ ОДНОРОДНОСТИ, ПАРАМЕТР.
Цель работы: научиться на практике использовать полученные знания по курсу «Теория вероятностей и математическая статистика». Привести основные понятия, которые касаются центральной предельной теоремы для независимых одинаково распределенных случайных величин и проверки статистических гипотез. Решить задачи на приведенные теоремы. Применить критерий однородности Смирнова для проверки гипотезы.
СОДЕРЖАНИЕ Введение
1. Теоретическая часть
1.1 Предельные теоремы теории вероятности
1.1.1 Сходимость последовательностей случайных величин и вероятностных распределений
1.1.2 Метод характеристических функций
1.1.3 Центральная предельная теорема для независимых одинаково распределенных случайных величин
1.2 Проверка статистических гипотез
1.2.1 Основные задачи математической статистики и их краткая характеристика
1.2.2 Проверка статистических гипотез: основные понятия
1.2.3 Критерий однородности Смирнова
2. Практическая часть
2.1 Решение задач о типах сходимости
2.2 Решение задач на «Центральная предельная теорема для независимых одинаково распределенных случайных величин»
2.3 Проверка гипотез по критерию однородности Смирнова
Заключение
Использованная литература теория вероятность статистический величина Введение Курс «Теория вероятностей и математическая статистика» занимает особое место в системе математических дисциплин, которые изучаются студентами специальностей ПМ, САУ и ИНФ, как базовый курс. Изучение курса необходимо для освоения основных понятий и методов анализа данных для решения конкретных задач, а также обеспечения других математических дисциплин.
Целью курсовой работы является углубление теоретических знаний по курсу «Теория вероятностей и математическая статистика», развитие навыков самостоятельной работы; практическое применение теории вероятности и математической статистики при решении прикладных задач.
Данная курсовая работа содержит решение задач на различные типы сходимостей, применение центральной предельной теоремы для независимых одинаково распределенных случайных величин.
Работа состоит из двух частей — теоретической и практической. В теоретической части приведены определения таких понятий, как сходимость последовательностей случайных величин, сходимость вероятностных распределений, характеристическая функция, центральная предельная теорема, статистическая гипотеза, критическая область, критерий согласия. В практической части решены задачи о типах сходимости, центральной предельной теореме для независимых одинаково распределенных случайных величин.
1. Теоретическая часть
1.1 Предельные теоремы теории вероятностей
1.1.1 Сходимость последовательностей случайных величин и вероятностных распределений Пусть на вероятностном пространстве < ?, F, P> задана последовательность случайных величин о1,…, оn. Рассмотрим некоторые виды сходимостей последовательностей случайных величин и вероятностных распределений.
При исследовании предела последовательности случайных величин 1,…, оn, заданных на одном и том же вероятностном пространстве, мы имеем дело, по существу, с проблемой сходимости последовательных функций {}, но при этом можно не обращать внимания на множество точек щ нулевой вероятности, в которых соответствующие числовые последовательности не имеют предела.
Последовательность случайных величин о1,…, оnсходится к случайной величине о по вероятности, если для любого е>0
.
Такая сходимость обозначается оn, либо P (.
Последовательность случайных величин о1,…, оnсходится к случайной величине о с вероятностью 1 (или почти наверное), если
То есть выполнено для любого, кроме, возможно, из некоторого множества М такого, что P (M)=0. Этасходимостьобозначается при n или п.н. .
В общей теории меры сходимость «почти наверное» называется сходимостью почти всюду и является наиболее сильной из всех форм сходимости функций — случайных величин. То есть событие :
А= { сходится кпри n}= }.
Но, чтобы рассматривать сходимость «почти наверное», необходимо знать, как устроены отображения. А, как правило, в задачах известны не самислучайныевеличины, а лишьихраспределения.
Справедлива теорема:
Последовательностьслучайных величин сходится «почти наверное» к тогда и только тогда, когда для любого
Или, что-то же самое,
A P () =1.
Если ряд сходится для любого, то, следовательно, .
Необходимо заметить, что сходимость почти наверное влечет за собой сходимость по вероятности. Но обратное, вообще говоря, не верно, и существуют пределы последовательностей, сходящихся по вероятности, но не имеющих предела почти наверное. Однако, из всякой сходящейся по вероятности последовательности случайных величин можно извлечь подпоследовательность, сходящуюся к тому же пределу почти наверное.
Если — монотонная последовательность, то из сходимости по вероятности следует сходимость с вероятностью 1. И также, если оn, следовательно, существует подпоследовательность {} такая, что при n. То есть из последовательности, сходящейся по вероятности можно выделить подпоследовательность, сходящуюся с вероятностью 1.
Рассмотрим утверждения относительно сходимости по вероятности.
Пусть последовательность случайных величин {cходится по вероятности к случайной величине Х, а последовательность случайных величин {cходится по вероятности к нулю. Тогда,. Эти утверждения обычно называются теоремами типа Слуцкого.
В рассмотренных выше видах сходимости существенную роль играет задание последовательностей случайных величин на едином вероятностном пространстве ,F,P>. По существу, близость членов с большими значениями n к их пределу зависит не столько от совпадения распределений и, сколько от близости функций и).
Последовательность случайных величин {} сходится к случайной величине в среднем порядка p, если M=0. Обозначается. При р=2 получим сходимость в среднеквадратичном (с.к.). Из сходимости в среднем порядка р следует сходимость по вероятности. Обратное утверждение в общем случае не верно.
Если последовательность случайных величин и М|| < для любого n. Тогда M| |< и М.
Рассмотрим лемму Бореля-Кантелли:
Пусть — события, принадлежащие ,F,P>. Событие А={произошло бесконечно много событий из }=. Тогда :
если ряд сходится. То P (A)=0;
Если события независимы и ряд расходится, то P (A)=1.
Последовательность {} является фундаментальной по вероятности (или почти наверное, в среднем порядка р), если для любого е>0 при n, mP (|| Или P (
Критерий сходимости Коши:
Для того, чтобы в каком-либо смысле необходимо и достаточно, чтобы последовательность {} была фундаментальна в соответствующем смысле.
Последовательность случайных величин {} при n сходится слабо (или по распределению) к случайной величине, если для любого x такого, что функция распределения непрерывна в точке х, имеет место сходимость. Обозначается
Иначе говоря, слабая сходимость — это поточечная сходимость функций распределения во всех точках непрерывности предельной функции распределения.
Сходимости обладают свойствами: Если функция распределения непрерывна в точках тоИ наоборот, если во всех точках непрерывности функции распределения имеет место, например, сходимость P (, то
Если, то
Если то .
Если =const и то .
Если=constи то с+
Рассмотрим сходимость распределений.
Считается, что слабо сходится к F, и обозначается это, если для любой непрерывной и ограниченной функции f (x) выполнено: Также определение слабой сходимости можно записать в виде: тогда и только тогда, когдав каждой точке x, являющейся точкой непрерывности F.
Справедливы несколько замечаний:
Сходимость разностей-для любых x и y, являющихся точками непрерывности F.
Если F (x) непрерывна, то сходимостьэквивалентна равномерной сходимости .
Если распределения и дискретны и имеют скачки в одних и тех же точках то будет эквивалентной сходимости вероятностей значений
Пусть — некоторые случайные величины (в общем случае заданные на разных вероятностных пространствах) такие, что
Если, то говорят, что сходится к по распределению и обозначать это
Ясно, что влечет за собой, но не наоборот.
1.1.2 Метод характеристических функций Метод характеристических функций, предложенный Ляпуновым, является одним из основных средств аналитического аппарата теории вероятности. Также этот метод является весьма эффективным при доказательстве самых разнообразных предельных теорем, что и обуславливает его развитие и широкое применение. Наряду со случайными величинами (принимающими действительные значения) теория характеристических функций требует привлечения комплекснозначных случайных величин.
Многие из определений и свойств, относящихся к случайным величинам, легко переносятся и на комплексный случай. Так, математическое ожидание комплекснозначной случайной величины считается определенным, если определены математические ожидания и. В этом случае по определению полагаем. Из определения независимости случайных элементов нетрудно вывести, что комплекснозначные величины, независимы тогда и только тогда, когда независимы пары случайных величин и .
Пусть F=F (- n-мерная функция распределения в (Её характеристической функцией называется функция
Этот интеграл сходится для всех действительных t, так как абсолютные величины не превосходят единицы и сходится.
Если случайный вектор, определенный на вероятностном пространстве (?, F, P) со значениями в, то его характеристической функцией называется функция где — функция распределения вектора).
Если функция F (x) имеет плотность f=f (x), то тогда
=
Или, в этом случае характеристическая функция является преобразованием Фурье функции f (x).
Также характеристическую функцию случайного вектора можно определить равенством С другой стороны, если x — дискретная случайная величина, принимающая значения в конечном или счетном числе с вероятностями, то
Рассмотрим основные свойства характеристической функции:
|(t)| для всех t.
Так как-то поэтому | (t)|
(0)=1, поскольку и g (0)=
является действительнозначной функцией тогда и только тогда, когда распределение F симметрично.
t. То есть функции распределения случайных величин — и совпадают, а значит P (.
Пусть Y=aX+b, где X — случайная величина с плотностью и характеристической функцией. Тогда:
Характеристическая функция суммы независимых случайных величин равна произведению характеристических функций слагаемых.
Некоторые примеры характеристических функций:
с вероятностью 1, то есть, то .
Если имеет показательное распределение с плотностью при х, то .
Характеристическая функция случайной величины однозначно определяет её функцию распределения.
Рассмотрим теорему — формулу обращения. Пусть функция распределения и
ее характеристическая функция.
а) Для любых двух точек,, где функция непрерывна, б) Если то функция распределения имеет плотность ,
и Теорема Бохнера-Хинчина.
Пусть непрерывная функция,, и. Для того чтобы была характеристической функцией, необходимо и достаточно, чтобы она была неотрицательно-определенной, то есть для любых действительных и любых комплексных чисел ,
Метод характеристических функций также называется теоремой Леви о непрерывности. Она является результатом, связывающим поточечную сходимость характеристических функций случайных величин со сходимостью этих случайных величин по распределению.
Суть метода характеристических функций заключается в следующем. Пусть { последовательность случайных величин, не обязательно определённых на одном вероятностном пространстве. Обозначим характеристическую функцию случайной величины Xn, где n, символом. Тогда если по распределению при n, и ц (t) — характеристическая функция X, то .
И обратно, если, где — функция действительного аргумента, непрерывная в нуле, то ц (t) является характеристической функцией некоторой случайной величины X, и по распределению при n.
Так как характеристическая функция любой случайной величины непрерывна в нуле, второе утверждение имеет следующее тривиальное следствие. Если, где n (t) — характеристическая функция Xn, и (t) — характеристическая функция X, то по распределению при n.
Понятие характеристической функции может быть обобщено на конечные и бесконечные системы случайных величин (т. е. на случайные векторы и случайные процессы).
1.3 Центральная предельная теорема для независимых одинаково распределенных случайных величин Пусть {} - последовательность независимых, одинаково распределенных случайных величин. Математическое ожидание M= a, дисперсия D=, S =, а Ф (х) — функция распределения нормального закона с параметрами (0,1). Введем еще последовательность случайных величин
= .
Теорема. Если 0 <<, то приnP (
В этом случае последовательность {} называется асимптотически нормальной.
Из того, что М= 1 и из теорем непрерывности вытекает, что наряду со слабой сходимостью, ФМ f () Mf () для любой непрерывной ограниченной f имеет место также сходимость М f ()Mf () для любой непрерывной f, такой, что |f (x)|
Доказательство.
Равномерная сходимость здесь является следствием слабой сходимости и непрерывности Ф (х). Далее, без ограничения общности можно считатьа = 0, так как иначе можно было бы рассмотреть последовательность {}, при этом последовательность {} не изменилась бы. Стало быть, для доказательства требуемой сходимости достаточно показать, что (t) e, когдаа = 0. Имеем
(t) =, где =(t).
Так как существует М, то существует и справедливо разложение
= + t+ ,
Следовательно, приn
Теорема доказана.
Теорема.(Интегральная теорема Муавра-Лапласа) Пусть — частота наступления события, А в последовательности n независимых опытов, в каждом из которых вероятность появления, А равна р. Тогда при
P
Иными словами, распределение случайной величины при слабо сходится к стандартному нормальному распределению.
1.2 Проверка статистических гипотез
1.2.1 Основные задачи математической статистики и их краткая характеристика Термин статистика происходит от латинского слова «статус» — состояние. Первоначально, в XVIII веке, когда статистика начала оформляться в научную дисциплину, термин статистика связывался с системой описания фактов, характеризующих состояние государства. В настоящее время статистика включает в себя и большее и в то же время более определенное содержание. А именно, статистика состоит из следующих трех разделов:
Сбор статистических сведений, т. е. сведений, характеризующих отдельные единицы каких-либо массовых совокупностей;
Статистическое исследование полученных данных, заключающееся в выяснении тех закономерностей, которые могут быть установлены на основе данных массового наблюдения;
Разработка приемов статистического наблюдения и анализа статистических данных. Последний раздел и составляет содержание математической статистики.
Современная математическая статистика разрабатывает способы определения числа необходимых испытаний до начала исследования (планирование эксперимента), в ходе исследования (последовательный анализ) и решает многие другие задачи. Современную математическую статистику определяют как науку о принятии решений в условиях неопределенности.
Итак, задача математической статистики состоит в создании методов сбора и обработки статистических данных для получения научных и практических выводов.
Исходным материалом для статистического исследования реального явления служит набор результатов наблюдений над ним или же результатов специально поставленных испытаний. Основные задачи, возникающие при этом:
1. Оценка значения неизвестной вероятности случайно события.
2. Определение неизвестной функции распределения. Задача ставится так: в результате n независимых испытаний над случайной величиной о получены следующие значения:. Требуется определить неизвестную функцию распределения F (x) величины о.
2. Определение неизвестных параметров распределения. Часто общетеоретические соображения позволяют сделать достаточно определенные заключения о типе функции распределения и интересующей нас случайной величины. Общая задача ставится так: случайная величина о имеет функцию распределения определенного вида, зависящую от k параметров, значения которых неизвестны. На основании последовательных наблюдений величины о нужно найти значения этих параметров.
Очевидно, что определение неизвестной вероятности p события, А является частным случаем только что сформулированной задачи, так как можно рассматривать случайную величину о, принимающую значение 1, если событие, А появляется, и значение 0, если событие, А не появляется. Функция распределения о зависит от единственного параметра p. Более точно эту задачу можно поставить так: в результате n независимых испытаний величина о приняла следующие значения:. Требуется указать функции =a (и =которые было бы рационально принять за приближенные значения оцениваемых величин a и. Помимо этого необходимо также оценить среднюю точность этих приближенных формул.