Анализ компонент многомерного случайного вектора

Курсовая работа По курсу математическая статистика Анализ компонент многомерного случайного вектора

Задание

статистический многомерный вектор Исходные данные: результаты обследования 50 объектов по пяти показателям.

Задание 1.

Провести анализ компонент многомерного случайного вектора признаков:

осуществить точечное оценивание основных числовых характеристик, функции и плотности распределения;

проверить гипотезы о характере распределения;

проверить гипотезы о значении параметров нормально распределенной генеральной совокупности;

осуществить интервальное оценивание основных параметров распределения.

Задание 2.

Провести корреляционный анализ компонент многомерного случайного вектора признаков:

1. осуществить точечное оценивание параметров многомерного нормально распределенного вектора признаков;

2. рассчитать точечные оценки парных, частных и множественных коэффициентов связи;

3. проверить значимость коэффициентов связи;

4. для значимых парных и частных коэффициентов корреляции простроить доверительные интервалы.

Глава 1. Анализ компонент многомерного случайного вектора

1) Постановка задачи

Провести анализ компонент многомерного случайного вектора :

1) Представить выборочные данные в виде интервального вариационного ряда и в виде дискретного вариационного ряда;

2) Построить эмпирическую функцию распределения (аналитически и графически), полигон и гистограмму (для непрерывных случайных величин);

3) Рассчитать точечные оценки основных числовых характеристик распределения: математического ожидания, дисперсии, среднего квадратического отклонения, начальные и центральные моменты третьего и четвёртого порядков;

4) Проверить гипотезу о характере распределения генеральной совокупности.

2) Краткие теоретические сведения

Пусть мы имеем апостериорную выборку х_1,n. Упорядочим результаты наблюдений в порядке возрастания. Пусть х₍₁₎=min{x_i}. Получим выборку х₍₁₎<=x₍₂₎<=…<=x_(n). Она также называется апостериорным вариационным рядом. Этому ряду будет соответствовать упорядоченный ряд о₍₁₎<= о₍₂₎<=…<=о_(n) (априорный вариационный ряд). Апостериорный вариационный ряд используется для вычислений тех или иных числовых характеристик выборочной совокупности, а априорный — для теоретических доказательств. Элементы апостериорного ряда будем называть вариантами, а элементы априорного — порядковыми статистиками.

На основе построенного апостериорного вариационного ряда построим упорядоченный вариационный ряд с учётом повторений. z₍₁₎ — наименьшее наблюдённое значение с учётом повторений (z₍₁₎=x₍₁₎), которое будем называть вариантой, k₁ — частота повторений z₍₁₎=x₍₁₎. z₍₂₎ — следующее по величине значение вариационного ряда. k_i — частота повторений z_(i)=x_(i) Получим ряд z₍₁₎<=z₍₂₎<=…<=z_(l), l<=n=. Построим дискретный вариационный ряд, где P_i^* — относительная частота, в силу теоремы Бернулли по вероятности сходящаяся к P_i (вероятности того, что случайная величина примет то или иное значение).

Таблица 1 — дискретный вариационный ряд

Для построения эмпирической функции распределения введём в рассмотрение величину, где. Пусть n (x) — число вариант, меньших х. Эмпирической функцией распределения будем называть функцию, которая для:. Очевидно, что

Она по вероятности сходится к вероятности события о

Пусть мы имеем непрерывную генеральную совокупность. Строить эмпирическую функцию распределения в данном случае неудобно, так как варианты, с одной стороны, не совпадают, а с другой — их много. Поэтому используем эмпирическую плотность распределения. Для её построения нам необходим большой объём совокупности (n>=50).

Весь промежуток наблюдённых значений разобьём на m интервалов, вначале равной длины. Определим число интервалов как m=log₂n+1. Интервалы будем обозначать как I_i, причём первый интервал содержит крайнюю левую точку, а последний — крайнюю правую. n_i — число вариант, попавших в i-тый интервал. Наблюдённые значения включаются в интервал, лежащий правее точки (если точка лежит на границе интервалов, то прибавляем 0,5 к частоте левого интервала и 0,5 — к частоте правого интервала). Также находим плотности относительных частот — отношения относительных частот к длинам соответствующих интервалов. Построим интервально-вариационный ряд.

Таблица 2 — интервальный вариационный ряд

P_i^* — относительная частота попадания элементов апостериорной выборки в i-тый интервал, f_i — плотность относительных частот, а — длина каждого интервала. При этом выполняется соотношение .

График f_i — гистограмма — приближённая оценка плотности распределения.

Таблица 3 — таблица формул для вычислений числовых характеристик выборочной совокупности.

Перейдём к выдвижению гипотез о характере распределения генеральной совокупности.

Пусть о — случайная величина с неизвестным законом распределения Р_о(х). Для исследования проведено n наблюдений по схеме Бернулли. Получим апостериорную выборку х_1,n, которая соответствует априорной выборке о_1,n. По этим данным построим эмпирическую плотность распределения и эмпирическую функцию распределения. По их наглядным отображениям (гистограмме или полигону) мы можем предположить, что выборка х_1,n получена из генеральной совокупности с функцией распределения F_0о или законом распределения Р_0о.

Утверждение о виде или свойствах закона распределения наблюдаемых в эксперименте случайных величин называется статистической гипотезой и обозначается Н₀: оєF_0о или Н₀: оєР_0о (следует понимать, что случайная величина о имеет закон распределения Р_0о или функцию распределения F_0о). Также наряду с H₀ ставится альтернативная гипотеза Н₁: случайная величина о имеет закон распределения, отличный от Р_0о.

Задача — проверить гипотезу с имеющейся апостериорной выборкой х_1,n, на основе которой построили гипотетический закон распределения.

Правило, с помощью которого принимается решение о принятии или отклонении гипотезы — статистический критерий. Для его реализации вводят меру расхождения между эмпирическим и гипотетическим законами распределения. Обозначим эту меру расхождения как T (х_1,n) — наблюдённое значение статистики критерия. Тогда T (о_1,n) — случайная величина, статистика критерия. Мы будем пытаться определить закон распределения статистики критерия, а дальше проверять гипотезу следующим образом:

Выберем некоторое б из диапазона [0; 0,1] - значимость гипотезы. Затем, «зная» закон распределения статистического критерия, будем искать критическую точку t_б. Она будет отделять область малых значений статистического критерия от области больших значений. Критическую точку найдём исходя из уравнения .

В итоге возможны две ситуации. Если T (х_1,n) окажется левее t_б, то мы принимаем гипотезу H₀, а иначе — отвергаем.

Рассмотрим два основных статистических критерия — критерий Колмогорова и критерий Пирсона («хи-квадрат»).

Колмогоров предложил в качестве меры расхождения взять, где F_0о — гипотетическая функция распределения, относительно которой сформирована гипотеза H₀. Также Колмогоров показал, что, где k (t) является функцией распределения статистики Колмогорова. Также, используя функцию Колмогорова, мы можем найти t_б. — квантиль уровня 1-б. Также можно встретить функцию k₁(t_б)=б. По таблицам для функции k₁ находят t_б.

Также существует другая мера расхождения — критерий Пирсона.

Пусть мы имеем выборку х_1,n. На основе гистограммы или полигона высказана гипотеза H₀.. Пирсон предложил в качестве меры расхождения Т_п(х_1,n)=ч² (хи-квадрат), где. l — число различных вариант (если строим меру расхождения по дискретному вариационному ряду) или число разрядов (если строим меру расхождения по интервальному вариационному ряду), k_i — кратность варианты (если строим меру расхождения по дискретному вариационному ряду) или число вариант, попавших в данных интервал (если строим меру расхождения по интервальному вариационному ряду), Р_0i — гипотетическая вероятность того, что генеральная совокупность принимает значение, совпадающее с i-той вариантой, либо, в случае непрерывной генеральной совокупности, вероятность попадания в i-тый интервал., где l — число степеней свободы. l=m-r-1, где m — число интервалов (либо вариант в случае дискретного вариационного ряда), r — число параметров, от которых зависит закон распределения.

Для того, чтобы критерий Пирсона давал удовлетворительные результаты оценки меры расхождения, необходимо соблюдение двух условий:

1) n>=50;

2) k_i>=5.

В случае, если k_i<5, нам следует укрупнить интервалы. После этого будем иметь гистограмму с разной длиной интервалов.

Иногда при использовании программ возникает ситуация, что гистограмма содержит пустые интервалы. Это недопустимо. Тогда мы представляем не гистограмму, а так называемую «нормальную бумагу». В результате преобразования график НР СВ представляется в виде прямой.

3) Порядок выполнения задания

Сначала необходимо сгенерировать выборки значений случайных величин о₁ и о₂, где о₁— дискретная случайная величина, распределенная по закону Пуассона, а о₂ — случайная величина, распределённая по равномерному закону. Построим их с помощью программы Microsoft Excel.

Определим число интервалов для интервальных вариационных рядов. Для этого используем формулу m=log₂n+1. Приближённое значение m равно 7. Следовательно, первоначально будем разбивать совокупности на 7 интервалов.

Перейдём к дискретной случайной величине. Отсортируем значения по возрастанию. Посчитаем частоты каждого наблюдённого значения, затем — относительные частоты. Получим дискретный вариационный ряд.

Таблица 4 — дискретный вариационный ряд для случайной величины о₁.

Сумма относительных частот равна единице, сумма частот равна 50, следовательно, мы верно построили дискретный вариационный ряд. Построим полигон для данного дискретного вариационного ряда.

Рисунок 2 — полигон распределения относительных частот случайной величины о₁.

Построим кусочно-постоянную функцию распределения случайной величины о₁ аналитически и графически.

Рисунок 3 — график кусочно-постоянной функции распределения дискретной случайной величины о₁

Найдём числовые характеристики данной апостериорной выборки, используя расчётные формулы, приведённые в таблице 3 (страница 7). Порядок нахождения числовых характеристик смотри в приложении.

В итоге получим ряд числовых характеристик данной выборочной совокупности (результаты приведёны в таблице 9, страница 18).

Затем выдвинем гипотезу Н₀:оєP_о, где (данная случайная величина распределена по закону Пуассона с параметром л=2,28 (т.к. мат. ожидание случайной величины, распределённой по закону Пуассона, равно л)). Также построим альтернативную гипотезу Н₁: (данная случайная величина имеет распределение, отличное от закона Пуассона с параметром л=2,28). Построим гипотетическую плотность распределения для каждого значения дискретного вариационного ряда. Затем, используя для каждого значения дискретного вариационного ряда в качестве эмпирической плотности распределения относительную частоту, найдём значения критерия «хи-квадрат» для каждого значения дискретного вариационного ряда и просуммируем их. Формула для вычисления статистики критерия «хи-квадрат»:

.

Но варианты 5,6,7 имеют частоты менее 5. Объединим три последних варианты. Рассчитав значение критерия «хи-квадрат», получим ч²=4,16 651. Полагая б=0,01, по таблице находим ч²_кр для нашего случая — левостороннее и правостороннее критические значения: ч²_{кр.лев.1}=1,145, ч²_кр.пр.1=11,07. ч²_{кр.лев.1} <�ч²_набл.1< ч²_кр.пр.1, следовательно, наша гипотеза принимается и она верна с вероятностью 0,99.

Затем вычислим значение меры расхождения по Колмогорову. Для этого предварительно вычислим значения эмпирической (как сумму предшествующих относительных частот) и гипотетической функций распределения (как сумму предшествующих плотностей распределения). Затем для каждой варианты посчитаем разность эмпирической и гипотетической функций распределения, умноженную на корень объёма выборки. Максимальное значение этой величины будет являться мерой расхождения по Колмогорову. В результате расчётов получим значение 0,4483. По таблице находим t_кр при б=0,01 — значение критической точки равно 1,63. Так как вычисленное значение не превышает критическое, наша гипотеза принимается и будет верна с вероятностью в 0,99.

Перейдём к рассмотрению непрерывной случайной величины о₂.

Сначала построим интервально-вариационный ряд. За левую границу примем округлённое в меньшую сторону значение минимальной варианты, за длину интервала — округлённую в большую сторону разницу между значением минимальной и максимальной варианты. Получим интервально-вариационный ряд, изображённый на таблице 6.

Таблица 6 — Интервальный вариационный ряд для случайной величины о₂.

Затем, используя расчётные формулы, приведённые в таблице 3, найдём числовые характеристики. Результаты — в таблице 9 (стр. 18). Затем найдём оценку плотности распределения:

На основании этих оценок построим гистограмму.

Рисунок 4 — гистограмма плотности относительных частот случайной величины о_2.

После этого построим кусочно-непрерывный график эмпирической функции распределения. Для этого выразим сначала её аналитически:

По имеющимся значениям построим график эмпирической функции распределения. Результат показан на рисунке 5.

Рисунок 5 — график эмпирической функции распределения случайной величины о₂.

Затем построим меры расхождения для этой случайной величины аналогично тому, как мы делали это для дискретной случайной величины.

Выдвинем гипотезу Н₀:о₂ распределена по равномерному закону с параметрами a=0.065, b=4.965. Получим значение статистики критерия Пирсона 3,35 714 (при критических значениях ч²_{кр.лев.2}=0,71, ч²_кр.пр.2=9,49, б=0,01, расчёты приведены в приложении 3) и значение статистики критерия Колмогорова 0,54 548 (при критическом значении 1,63, б=0,01). Следовательно, мы принимаем гипотезу Н₀.

Перейдём к проверке гипотез с помощью программного пакета Statistica.

Таблица 6 — Интервальный вариационный ряд для случайной величины о₃.

Рисунок 5 — гистограмма частот для случайной величины о₃.

Выдвинем гипотезу H₀: с оценками параметров распределения .

Получая в Statistica значение критерия «хи-квадрат», равное 0,49 (при критических значениях ч²_{кр.лев.3}=0,1, ч²_кр.пр.3=5,991, б=0,01), принимаем гипотезу H₀.

Рисунок 6 — гистограмма частот случайной величины о₄.

Таблица 7 — Интервальный вариационный ряд для случайной величины о₄.

Выдвинем гипотезу H₀: с оценками параметров распределения .

Получая в Statistica значение критерия «хи-квадрат», равное 1,076 (при критических значениях ч²_{кр.лев.4}=0,1, ч²_кр.пр.4=5,991, б=0,01), принимаем гипотезу H₀.

Рисунок 7 — гистограмма частот случайной величины о₅.

Таблица 8 — Интервальный вариационный ряд для случайной величины о₅.

Выдвинем гипотезу H₀: с оценками параметров распределения .

Получая в Statistica значение критерия «хи-квадрат», равное 1,076 (при крит. значениях ч²_{кр.лев.5}=0,004, ч²_кр.пр.5=3,841, б=0,01), принимаем гипотезу H₀.

Таблица 9 — оценки основных числовых характеристик компонент вектора о.

По данным таблицы 9 мы можем сделать следующие выводы:

Наиболее однородной является генеральная совокупность о₅, так как она имеет наименьшую оценку дисперсии. Наименее однородной является совокупность о₄, имеющая наибольшую дисперсию.

Наименее симметрично распределенной относительно оценки математического ожидания является генеральная совокупность о₁, имеющая наибольшую по модулю оценку коэффициента асимметрии. Наиболее симметрично распределенной относительно оценки математического ожидания является генеральная совокупность о₂, имеющая наименьшую по модулю оценку коэффициента асимметрии.

Наиболее острый пик распределения около математического ожидания имеет генеральная совокупность о₅, имеющая наибольшее значение оценки коэффициента эксцесса. Наиболее гладкий пик распределения около математического ожидания имеет генеральная совокупность о₄, имеющая наименьшее значение оценки коэффициента эксцесса.

Все выдвинутые нами гипотезы были подтверждены, следовательно, по апостериорной выборке можно судить о характере закона распределения генеральной совокупности.

Глава 2. Построение доверительных интервалов.

1) Постановка задачи

Для компонент многомерного случайного вектора из предыдущей лабораторной работы найти доверительные интервалы для оценок параметров законов распределения этих компонент многомерного случайного вектора.

2) Краткие теоретические сведения

Так как точечные оценки являются случайными величинами, то мы не можем говорить о величине погрешности между реальным значением параметра закона распределения и его оценкой (из-за того, что оценка является случайной величиной, зависящей от конкретной апостериорной выборки).

Пусть и — оцениваемый параметр генеральной совокупности (не обязательно входящий в её закон распределения) и имеется априорная выборка о_1,n. Формируем апостериорную выборку х_1,n.

Доверительным интервалом для параметра и будем называть интервал, который с заданной надёжностью (доверительной вероятностью г) содержит внутри себя («накрывает») оцениваемый параметр.

— основное уравнение для нахождения нижней и верхней границ интервалов.

Точность нахождения оценки характеризуется длиной интервала.

Также существует другое определение. Пусть — некоторая оценка параметра и. Тогда доверительным интервалом для параметра и будем называть интервал с серединой, в который с заданной вероятностью г входит и.

где д — радиус доверительного интервала.

г — доверительная вероятность. Обычно ей задают значение в интервале (0.9; 0.995).

При построении доверительных интервалов сначала строим некоторую статистику, которая содержит оцениваемый параметр (для которого строим доверительный интервал). При этом:

1) Статистика строится так, чтобы был известен её закон распределения, но он не содержал бы оцениваемого параметра;

2) Как правило, статистика строится в таком виде, чтобы оцениваемый параметр и его оценка входили в эту статистику либо в виде разности, либо в виде отношения.

Например, при расчёте математического ожидания при известной дисперсии используем следующую статистику:

.

Пусть известно, что генеральная совокупность имеет нормальный закон распределения с неизвестным математическим ожиданием m и известной дисперсией у². Построим статистику U. Она будет иметь нормальный закон распределения с параметрами (0; 1). В результате вычислений получим реализованный доверительный интервал для данной апостериорной выборки.

где, (Ф^-1(х) — квантиль уровня х для нормально распределённой случайной величины с параметрами (0;1)) (формула 1).

Если дисперсия неизвестна, то доверительный интервал для математического ожидания имеет следующий вид:

где — квантиль уровня х для случайной величины, распределённой по закону Стьюдента с (n-1) степенями свободы. (формула 2)

Также для вычисления доверительного интервала для оценки математического ожидания можно использовать функцию St (x), где .

— доверительный интервал для математического ожидания. (формула 3)

В случае, если нам необходимо построить доверительный интервал для оценки дисперсии при неизвестном математическом ожидании генеральной совокупности, распределённой по нормальному закону, воспользуемся следующей формулой:

где, с числом степеней свободы n-1. (формула 4)

В случае, если закон распределения генеральной совокупности неизвестен, но известна её дисперсия, а также мы имеем большой объём выборки, то математическое ожидание можно найти по формуле:

где .

(формула 5) Если дисперсия неизвестна, то воспользуемся формулой:

где — квантиль уровня х для случайной величины, распределённой по закону Стьюдента с (n-1) степенями свободы. (формула 6)

Для нахождения дисперсии генеральной совокупности с неизвестным законом распределения воспользуемся формулой

где. (формула 7)

При нахождении доверительного интервала для параметра л дискретной случайной величины, распределённой по закону Пуассона следует решить относительно л₁, л₂ следующие уравнения:

и ,

где л₁, л₂ — нижняя и верхняя границы доверительного интервала соответственно, л^* — оценка параметра л. (формулы 8 и 9)

При построении доверительного интервала для вероятности имеем формулу

где. (формула 10)

3) Порядок выполнения задания

Положим г=0,95.

Рассмотрим сначала нормально распределённые генеральные совокупности.

Для вычисления доверительного интервала для математического ожидания нормально распределённой генеральной совокупности сначала найдём по таблице квантилей распределения Стьюдента квантиль уровня (1+г)/2 при (n-1) степенях свободы. Для г=0,95 и n=50 этот квантиль примерно равен 2,01. Рассмотрим построение доверительных интервалов на примере генеральной совокупности о₃. Оценки её числовых характеристик:

Таблица 1 — оценки числовых характеристик генеральной совокупности о₃.

Построим доверительный интервал для математического ожидания. Воспользуемся формулой 2:

.

Имеем:,. По таблице квантилей функции распределения Стьюдента находим. Подставляя эти значения в неравенство, получаем интервал: .

Затем построим доверительный интервал для дисперсии. Воспользуемся формулой 4:. Имеем. Из таблицы квантилей функции распределения находим,. Подставляя эти значения в неравенство, получаем интервал:. Аналогичным образом найдём доверительные интервалы для математического ожидания и дисперсии остальных нормально распределённых генеральных совокупностей.

Таблица 2 — оценки числовых характеристик генеральной совокупности о₄.

Доверительный интервал для математического ожидания:. Доверительный интервал для дисперсии: .

Таблица 3 — оценки числовых характеристик генеральной совокупности о₅.

Доверительный интервал для математического ожидания:. Доверительный интервал для дисперсии: .

Рассмотрим равномерно распределённую генеральную совокупность о₂.

Таблица 4 — оценки числовых характеристик генеральной совокупности о₂.

Для построения доверительного интервала для математического ожидания воспользуемся формулой 6 (т.к., скорее всего, закон распределения отличается от нормального, считаем закон распределения стремящимся к нормальному при n->?):

.

Имеем:,. По таблице квантилей функции распределения Стьюдента находим. Получаем доверительный интервал для математического ожидания: .

Для построения доверительного интервала для дисперсии воспользуемся формулой 7:

где. Имеем. Находим. Подставляя значения, находим доверительный интервал: .

Также, используя найденные доверительные интервалы математического ожидания и дисперсии, мы можем найти доверительные интервалы для параметров, а и b из системы неравенств:

Выразим b через a и найдём приближённо границы области доверительных интервалов:

Построив эту область на плоскости, находим её границы по оси a:. Её границы по оси b: .

Рассмотрим дискретную генеральную совокупность о₁.

Таблица 4 — оценки числовых характеристик генеральной совокупности о₁.

Решая уравнения и (считаем г=0,95), получаем приближённые значения л₁=0,25, л₂=8. Следовательно, (0,25; 8) — доверительный интервал для л.

Глава 3. Проверка параметрических гипотез

1) Постановка задачи

Для компонент многомерного случайного вектора проверить параметрические гипотезы относительно закона распределения этих компонент многомерного случайного вектора.

2) Краткие теоретические сведения

Пусть о — генеральная совокупность, закон распределения которой принципиально известен (найден по полигону или гистограмме). и — неизвестно. В качестве параметров обычно берём их оценки. Из косвенных соображений считаем, что параметр принимает другое, более точное значение. Нас интересует обоснование утверждения «Параметр принимает значение и₀ (или и₁)». В качестве инструмента обоснования применим параметрическую проверку гипотез.

Статистическая гипотеза называется простой, если она имеет вид и=и₀. Если же она имеет вид, где D — некоторая область значения параметра.

Рассмотрим проверку двух простых гипотез.

Пусть нам принципиально известен закон распределения, а также выдвинуты гипотезы Н₀: и=и₀ и Н₁: и=и₁. Нам требуется по данным апостериорной выборки принять решение о справедливости Н₀ или Н₁. Статистическим критерием проверки гипотез называют правило, по которому по данным апостериорной выборки принимают решение о справедливости Н₀ или Н₁.

Множество всех возможных значений апостериорной выборки (для априорной выборки это множество возможных значений) называется выборочным пространством (оно также является n-мерным эвклидовым пространством).

Обозначим Х_n — выборочное пространство размерности n, W — критическое множество (область, в которой Н₀ отвергается). Через обозначим дополнение области W до Х_n. — область принятия Н₀.

Задача проверки гипотезы с помощью статистического критерия заключается в построении критической области и последующей проверки принадлежности конкретной апостериорной выборки к W (если принадлежит, то Н₀ отвергаем, Н₁ принимаем).

Построить W однозначно невозможно. Возможны ситуации, когда верна Н₀, а x_1,n принадлежит области W, и Н₀ ошибочно отвергается (ошибка первого рода). Если верна гипотеза Н₁, а, и мы ошибочно принимаем Н₀, то мы имеем ошибку второго рода.

Если нам принципиально известен закон распределения генеральной совокупности, то мы знаем и закон распределения о_1,n. Тогда можно вычислить вероятность совершить ошибку первого рода, где б называется значимостью нулевой гипотезы.

Через в обозначим вероятность совершить ошибку второго рода.. Предпочтительнее совершить ошибку первого рода, чем второго (т.к. бездействие лучше неверного решения).

Для нормально распределённой генеральной совокупности справедливы формулы:

;

(1- в) — мощность статистического критерия (вероятность отвергнуть нулевую гипотезу при условии, что верна H₁).

Построенный критерий должен иметь максимальную мощность при заданном уровне значимости, б обычно задают и на его основе строят области W и так, чтобы мощность была максимальна.

Пусть о — генеральная совокупность с законом распределения, где и — неизвестный параметр. Выдвигаем Н₀:и=и₀ и Н₁:и=и₁.

Пусть априорная выборка построена по всем правилам. Через L (о_1,n;и) обозначим функцию максимального правдоподобия.

Составим функцию

.

Если верна нулевая гипотеза, то .

— отношение правдоподобия, которое при истинности нулевой гипотезы стремится к своему минимуму. Мы ожидаем наиболее мощный критерий Неймана-Пирсона при заданном уровне значимости.

В критическое множество включают те апостериорные выборки, для которых, где, которая выбирается из условия .

Имеем

— критерий Неймана-Пирсона для гипотезы m₀1 и

— критерий Неймана-Пирсона для гипотезы m₀>m₁.

Другая идея проверки гипотез заключается в том, что мы строим скалярную функцию T (о_1,n), которую будем называть статистикой критерия. Она будет строиться из следующих соображений:

1) Закон распределения статистики не должен зависеть от параметров генеральной совокупности;

2) Статистика, как и при построении доверительных интервалов, должна содержать оценку исследуемого параметра и его гипотетическое значение либо в виде разности, либо в виде отношения.

Пусть эта статистика построена и имеет известный закон распределения. Она отображает точки выборочного пространства в точки на числовой оси T (х_1,n). При этом критическая область W отобразится во множество точек W₀ и будет называться «критическим множеством». отобразится в W₁ — область принятия решения. Области W₀ и W₁ разделены точкой t_кр. Наша задача — найти эту критическую точку. Затем, вычисляя T_набл(Х_1,n), смотрим, попадает ли значение статистики критерия в W₀ или W₁.

В зависимости от свойств случайной величины, её закона распределения и, в первую очередь, формулировки гипотезы, возможны три случая.

1) Имеем правостороннюю критическую область.

.

2) Имеем левостороннюю критическую область.

.

3) Имеем двустороннюю критическую область.

.

Перейдём к проверке гипотез относительно параметров распределения нормально распределённой генеральной совокупности.

Пусть, где у² известна. Проверяется гипотеза H₀:m=m₀, а также альтернативная гипотеза H₁:m=m₁. Получаем выборку. Строим оценку математического ожидания. Строим статистику

.

1) Для гипотезы m₁>m₀ имеем, где U_1-б — квантиль распределения стандартизованной нормально распределённой случайной величины уровня (1-б).

2) Для гипотезы m₁0 имеем .

3) Для двусторонней критической области имеем

.

Рассмотрим случай, когда у² неизвестна. Для этого случая также проверим гипотезу о значении математического ожидания с учётом всех трёх возможных ситуаций.

Статистика будет иметь вид

и будет распределена по закону распределения Стьюдента с (n-1) степенью свободы.

1) Для гипотезы m₁>m₀ имеем

где U_1-б — квантиль распределения Стьюдента с (n-1) степенью свободы уровня (1-б).

2) Для гипотезы m₁0 имеем

.

3) Для двусторонней критической области имеем

.

Теперь проверим гипотезу относительно значения параметра у² нормально распределённой генеральной совокупности при неизвестном математическом ожидании.

Проверяется гипотеза

H₀:у²=,

а также альтернативная гипотеза

H₁: у²= .

Получаем выборку. Строим оценку математического ожидания. Строим статистику

.

1) Для гипотезы > имеем

где U_1-б — квантиль распределения «хи-квадрат» с (n-1) степенью свободы уровня (1-б).

2) Для гипотезы < имеем .

3) Для двусторонней критической области имеем

.

Затем проверим гипотезу о равенстве математических ожиданий двух генеральных совокупностей о и з. Выдвинем гипотезы H₀:m_о=m_з и H₁:m_о<>m_з

Будем считать, что дисперсии сравниваемых генеральных совокупностей равны и известны. Построим статистику

.

Если H₀ верна, то .

1) Если H₁ имеет вид m_о>m_з, то строим правостороннюю критическую область. Получаем, где U_1-б — квантиль распределения стандартизованной нормально распределённой случайной величины уровня (1-б).

2) Для гипотезы m_оз имеем

.

3) Для двусторонней критической области имеем

.

Если неизвестны значения дисперсий генеральных совокупностей, то строим статистику

которая имеет распределение Стьюдента с числом степеней свободы .

1) Для гипотезы m_о>m_з имеем

где U_1-б — квантиль распределения Стьюдента с степенями свободы уровня (1-б).

2) Для гипотезы m_оз имеем

.

3) Для двусторонней критической области имеем

.

Проверим гипотезу об однородности дисперсий двух генеральных совокупностей.

ГС о и з. Имеем. Находим и. Для определённости положим, что. Выдвигаем гипотезу Н₀:; Н₁: .

Построим статистику

В случае справедливости Н₀ эта статистика имеет распределение Фишера с числом степеней свободы числителя (n_x-1 и n_y-1). Если F_набл>F_кр,(б, n_x-1, n_y-1) то Н₀ отвергаем.

Проверим гипотезу об однородности дисперсий нескольких генеральных совокупностей.

Пусть мы имеем нормально распределённых генеральных совокупностей, дисперсии которых соответственно равны и выборок из этих совокупностей объёмами .

Выдвинем гипотезу H₀:, где i=1,., l. Для проверки этой гипотезы мы можем использовать критерий Бартлетта.

где, .

Критерий Бартлетта имеет ч² — распределение с (l-1) степенями свободы. Гипотеза H₀ отвергается, если ч²_набл>U_б, где U_б — квантиль распределения «хи-квадрат» уровня б с числом степеней свободы (l-1).

Проверим гипотезу об однородности математических ожиданий нескольких генеральных совокупностей.

Используем критерий дисперсионного анализа, который применяется для выборок нормально распределённых генеральных совокупностей с одинаковой, но неизвестной дисперсией.

где, .

Выдвинем гипотезу Н₀:m₁=…=m_l. В случае справедливости этой гипотезы статистика распределена по закону Фишера с числом степеней свободы числителя (l-1) и числом степеней свободы знаменателя. Если, где F_б, — квантиль уровня б случайной величины, распределённой по закону Фишера с числом степеней свободы числителя (l-1) и числом степеней свободы знаменателя, то гипотезу H₀ отвергаем.

3) Порядок выполнения задания

Рассмотрим проверку гипотезы относительно значения математического ожидания генеральной совокупности.

Покажем процесс проверки на примере нормально распределённой генеральной совокупности

с оценками параметров распределения .

Выдвинем гипотезу H₀:m=m₀=0,5. H₁:m₁>m₀, m₁=0,7. Здесь и далее б=0,05. Проверим справедливость гипотезы H₀, используя статистику

.

Воспользуемся формулами для вычисления критических точек (границ правосторонних, левосторонних и двусторонних критических областей) при неизвестных дисперсиях:

и ,

соответственно, где U_1-б — квантиль распределения Стьюдента с (n-1) степенью свободы уровня (1-б).

Вычисляем T (X_1,n) по формуле. Получаем T (X_1,n)=0,82 633 806. t_кр=1,678 (для правосторонней критической области). T (Х_1,n)кр, значит, гипотезу H₀ принимаем, H₁ отвергаем.

Таблица 1 — проверка гипотез о значениях математических ожиданий генеральных совокупностей.

Проверим гипотезы об однородности математических ожиданий двух нормально распределённых генеральных совокупностей.

Рассмотрим проверку гипотезы на примере генеральных совокупностей с оценками параметров распределения. и с оценками параметров распределения. Выдвинем гипотезы H₀: и H₁:. Проверим справедливость гипотезы H₀, используя статистику

.

Построим статистику t, имеющую распределение Стьюдента с числом степеней свободы. Найдём T (X_1,n)=22,5 662. Значение t_кр для левосторонней критической области: 0,62 868. T (X_1,n)>t_кр, следовательно, гипотезу H₀ отвергаем в пользу гипотезы H₁.

Таблица 2 — проверка гипотез об однородности математических ожиданий двух генеральных совокупностей.

Проверим гипотезу однородности математических ожиданий трёх нормально распределённых генеральных совокупностей.. Найдём критическую точку (границу правосторонней критической области), используя критерий дисперсионного анализа:

где, .

Вычисляем. По таблице квантилей распределения Фишера находим

. ,

следовательно, гипотезу H₀ отвергаем.

Перейдём к проверке гипотез относительно значений дисперсии генеральной совокупности.

Покажем процесс проверки на примере нормально распределённой генеральной совокупности с оценками параметров распределения .

Выдвинем гипотезу

Н₀:. Н₁:.

Проверим справедливость гипотезы H₀, используя статистику. Воспользуемся формулами для вычисления критических точек (границ правосторонних, левосторонних и двусторонних критических областей):, и, соответственно,

где U_1-б — квантиль распределения «хи-квадрат» с (n-1) степенью свободы уровня (1-б).

Вычисляем. , значит, гипотезу H₀ принимаем.

Таблица 3 — проверка гипотез о значениях дисперсий генеральных совокупностей.

Проверим гипотезу об однородности дисперсий пары генеральных совокупностей.

Рассмотрим проверку гипотез на примере генеральных совокупностей о₃ и о₄.

Выдвинем Н₀:, Н₁:. Построим статистику. F_кр=1,6. F=259,2023. F_набл>F_кр, следовательно, гипотезу об однородности дисперсий генеральных совокупностей о₃ и о₄ отвергаем.

Аналогично проверим другие пары генеральных совокупностей.

Таблица 3 — проверка гипотез об однородности дисперсий генеральных совокупностей.

Проверим однородность дисперсий нормально распределённых генеральных совокупностей о₃, о₄ и о₅.

Используем критерий Бартлетта.

где,

Находим по таблице квантилей ч²_крит=5,99. Вычисляем ч²_набл=434,2903. ч²_набл>ч²_кр, следовательно, гипотезу об однородности дисперсий генеральных совокупностей о₃, о₄ и о₅ отвергаем.

Глава 4. Корреляционный анализ компонент многомерного вектора

1) Постановка задачи

Для нормально распределённых компонент многомерного случайного вектора построить множественные, парные и частные коэффициенты корреляции, функции регрессии и проверить полученные функции и коэффициенты на значимость и построить для них доверительные интервалы.

2) Краткие теоретические сведения

Будем рассматривать только нормально распределённые случайные величины.

Парная функция регрессии устанавливает зависимость условной средней одной случайной величины от текущего значения другой случайной величины.

О силе парной связи судят, используя корреляционное отношение, вычисляемое по формуле

где факторная дисперсия — безразмерная величина, характеризующая отклонение значение результативной переменной, вычисленного с помощью функции регрессии от её реального значения.

Если, то мы имеем функциональную зависимость значения результативной переменной от текущего значения объясняющей переменной. Если же — отсутствие зависимости значения результативной переменной от текущего значения объясняющей переменной. Верны и обратные утверждения.

Коэффициент детерминации используется в качестве показателя степени тесноты статистической связи. Его нулевое значение соответствует полному отсутствию какой бы то ни было связи между результативным и объясняющим признаками. Единичное значение — наличию чисто функциональной связи между результативным и объясняющим признаками. Численное значение коэффициента детерминации отражает долю общей вариации результирующего признака, обусловленной изменением значения объясняющей переменной. Частным коэффициентом корреляции между случайными величинами о₁, о₂, освобождёнными от влияния всех остальных, будем называть парный коэффициент корреляции между парой новых случайных величин, получаемых из о₁, о₂ удалением из них функций регрессии Mо_1/(.) Mо_2/(.), где запись (.) означает «по всем остальным переменным». Пусть над всеми k признаками сделали выборки объёма n. Получим матрицу «объект-свойство». Элемент х_ij — наблюдённое значение i-того признака на j-том объекте.

По значениям элементов матрицы «объект-свойство» мы можем найти оценки числовых характеристик признаков.

— оценка математического ожидания j-того признака.

 — смещённая и несмещённая оценки дисперсии j-того признака.

— оценка ковариации между i-тым и j-тым признаками. — оценка ковариационной матрицы.

Из ковариационной матрицы получаем корреляционную, поделив элементы каждой i-той строки и каждого i-того столбца на элемент ковариационной матрицы.

Обозначим — определитель корреляционной матрицы. — алгебраическое дополнение элемента (i, j) корреляционной матрицы. Тогда множественный коэффициент корреляции (о_i по всем остальным) найдём по формуле

.

Частный коэффициент корреляции между параметрами о_i и о_j (очищенный от влияния всех остальных) найдём по формуле. Найдя коэффициенты, сможем получить уравнение регрессии.. Оценку коэффициентов уравнения регрессии находим следующим образом:, где, а — остаточная дисперсия j-того признака, находимая по формуле .

— частное уравнение регрессии, показывающее влияние (l-1) объясняющей переменной на результирующую переменную.

— оценка коэффициента детерминации.

Рассмотрим построение доверительных интервалов для уравнения регрессии.

Выдвинем гипотезу Н₀: — объясняющие переменные не оказывают влияния на вариацию результативного признака. Н₁: — хотя бы один признак является факторным.

Пусть рассматривается оценка коэффициента детерминации, где l — количество факторных признаков, связь о_j с которыми мы желаем исследовать.

Для проверки гипотезы построим статистику

.

В случае справедливости Н₀ эта статистика распределена по закону Фишера с числом степеней свободы числителя l и числом степеней свободы знаменателя (n-l-1). Если F_набл>F_кр, то Н₀ отвергаем, а множественный коэффициент корреляции (детерминации) значимо отличен от нуля и уравнение регрессии значимо.

Для проверки парных коэффициентов корреляции используем статистику (для частного коэффициента корреляции имеем статистику). В случае справедливости Н₀ статистика распределена по закону Стьюдента (n-l-1) степенями свободы. Если |t_набл|>t_кр, то Н₀ отвергаем, а исследуемый парный либо частный коэффициент корреляции (детерминации) значимо отличен от нуля и уравнение регрессии значимо.

Перейдём к построению доверительных интервалов для значимых характеристик линейной зависимости.

Если значимо отличен от нуля и имеет выборочную оценку, то для построения доверительного интервала мы осуществим на Z-преобразование Фишера.

Получаем двойное неравенство:

где. Осуществляя обратное преобразование Фишера, получаем доверительный интервал для

: .

Для нахождения оценки точности оценок коэффициентов уравнения регрессии построим доверительный интервал, используя статистику

.

Она распределена по закону Стьюдента с числом степеней свободы (N-l-1). Получим доверительный интервал:

где, .

3) Порядок выполнения задания

Так как корреляционный анализ применим только для нормально распределённых генеральных совокупностей, то ограничимся исследованием взаимосвязей между случайными величинами о₃, о₄, о₅.

Имеем матрицу «объект-свойство» размерности 3×50. По этой матрице, имея оценку вектора математических ожиданий, построим ковариационную матрицу размерности 3×3, используя формулы

и .

Получаем оценку ковариационной матрицы

.

Затем получим оценку корреляционной матрицы, поделив элементы каждой i-той строки и каждого i-того столбца на элемент ковариационной матрицы. Получим матрицу

.

Затем найдём частные коэффициенты корреляции, используя возможности пакета Statistica, либо формулу

.

Получим значения, , (вычисление всех коэффициентов корреляции с помощью программного пакета «Statistica» приведено в приложении).

следовательно, случайная величина о₅ усиливает взаимосвязь между случайными величинами о₃ и о₄., следовательно, случайная величина о₄ усиливает взаимосвязь между случайными величинами о₃ и о₅., следовательно, случайная величина о₃ усиливает взаимосвязь между случайными величинами о₄ и о₅.

Проверим полученные оценки парных и частных коэффициентов корреляции на значимость. Выдвинем гипотезу Н₀: — гипотезу о незначимости парного коэффициента корреляции между о₃ и о₄. Проверим гипотезу с помощью статистики (для частного коэффициента корреляции имеем статистику). Получим t_кр(0,05;47)= 2,01. t_набл=41,32. |t_набл|>t_кр, следовательно, гипотезу H₀ отвергаем, — значимо.