Статистическая важность коэффициентов регрессии и корреляции

Задача 1

Имеются данные об уровне механизации работ Х (%) и производительности труда У (т/ч) для 12 предприятий:

По данным, приведенным в таблице:

• 1) построить линейное уравнение парной регрессии у на х;
• 2) рассчитать линейный коэффициент парной корреляции и оценить тесноту связи;
• 3) оценить статистическую значимость параметров регрессии и корреляции, используя F-статистику, t-статистику Стьюдента и путем расчета доверительных интервалов для каждого из показателей;
• 4) вычислить прогнозное значение у при прогнозном значении х, составляющем 108% от среднего уровня;
• 5) оценить точность прогноза, рассчитав ошибку прогноза и его доверительный интервал;
• 6) полученные результаты изобразить графически и привести экономическое обоснование.

Решение.

1. Линейная модель регрессии

Уравнение парной регрессии:

где, а и b — параметры уравнения.

;

Составим вспомогательную таблицу.

;

;

;

Рассчитываем для каждого значения х значения ух. Заносим в таблицу.

2. Линейный коэффициент парной корреляции.

Если: умножить на, то получим:

.

Значит, коэффициент корреляции можно находить по формуле.

;

r2 = 0,914.

Найденное значение индекса детерминации говорит, что 91,4% вариации производительности труда (Y) объясняется вариацией фактора x — уровнем механизации работ.

Оценка статистической значимости параметров регрессии Оценку статистической значимости параметров регрессии проведём с помощью t-статистики Стьюдента и путём расчёта доверительных интервалов для каждого из показателей. Выдвинем гипотезу Но: о статистически незначимом отличии показателей от нуля, то есть, Но: a = b = rxy = 0. По таблицам t-критерия Стьюдента при и числу степени свободы в данном случае равном: n — 2 = 12 — 2 = 10 находим tтабл = 2,23.

Фактические значенияt-критерия определяются по формулам:

?2.23.

>2.23.

>>2.23.

Из выше найденных фактических значений ta, tb, tr, видим что кроме параметра, а они больше ранее найденного табличного (критического) значения критерия Стьюдента (t = 2,23) следовательно гипотеза, Но — отклоняется, то есть a, b и rxy не случайно отличны от нуля.

Найдем F-статистику для оценки значимости уравнения регрессии (n=12, m=1).

Табличное значение критерия со степенями свободы k1=1 и k2=10, Fтабл= 4,96. Так как F > Fтабл, то уравнение парной регрессии признается статистически значимым и модель адекватной.

Доверительные интервалы для параметров уравнения регрессии:

Несмещенной оценкой дисперсии возмущений является величина:

S2y = 4.81 — необъясненная дисперсия (мера разброса зависимой переменной вокруг линии регрессии).

Sy = 2.19 — стандартная ошибка оценки (стандартная ошибка регрессии).

Sa — стандартное отклонение случайной величины a.

Sb — стандартное отклонение случайной величины b.

Определим доверительные интервалы коэффициентов регрессии, которые с надежность 95% будут следующими:

• (b — tкрит Sb; b + tкрит Sb)
• (0.56 — 2.228 * 0.0542; 0.56 + 2.228 * 0.0542)
• (0.44;0.68)

С вероятностью 95% можно утверждать, что значение данного параметра будут лежать в найденном интервале.

• (a — tкрит Sa; a + tкрит Sa)
• (6.25 — 2.228 * 2.67; 6.25 + 2.228 * 2.67)
• (0.29;12.2)

С вероятностью 95% можно утверждать, что значение данного параметра будут лежать в найденном интервале.

4. Прогнозное значение у при прогнозном значении х, составляющем 108% от среднего уровня

Ч 1,08= 47,92 Ч 1,08 = 51,75.

Прогнозное значение производительности труда при увеличенном на 8% уровне механизации труда равно:

усл.ед.

5. Оценка точности прогноза, расчет ошибки прогноза и его доверительного интервала.

Предельная ошибка прогноза, которая в 95% случаев не будет превышена, составит:

.

Доверительный интервал прогноза.

• (12,71; 57,73)
• 6. Графическое изображение результатов и экономическое обоснование.

Получим уравнение парной регрессии:

Коэффициентам уравнения линейной регрессии можно придать экономический смысл.

Коэффициент регрессии b = 0.56 показывает среднее изменение результативного показателя (в единицах измерения у) с повышением или понижением величины фактора х на единицу его измерения. В данном примере с увеличением на 1 единицу y повышается в среднем на 0.56.

Коэффициент a = 6.24 формально показывает прогнозируемый уровень у, но только в том случае, если х=0 находится близко с выборочными значениями.

Но если х=0 находится далеко от выборочных значений х, то буквальная интерпретация может привести к неверным результатам, и даже если линия регрессии довольно точно описывает значения наблюдаемой выборки, нет гарантий, что также будет при экстраполяции влево или вправо.

Подставив в уравнение регрессии соответствующие значения х, можно определить выровненные (предсказанные) значения результативного показателя y (x) для каждого наблюдения.

Связь между у и х определяет знак коэффициента регрессии b (если > 0 — прямая связь, иначе — обратная). В нашем примере связь прямая.

Задача 2.

Используя данные приведенные в таблице:

• 1) построить линейное уравнение множественной регрессии;
• 2) рассчитать линейные коэффициенты частной корреляции и коэффициент множественной детерминации, сравнить их с линейными коэффициентами парной корреляции, пояснить различия между ними;
• 3) вычислить прогнозное значение у при уменьшении вектора х на 6% от максимального уровня, оценить ошибку прогноза и построить доверительный интервал прогноза

Решение.

1. Уравнение множественной регрессии:

y = a0+ a1x1+ a2x2.

Матрица Х значений объясняющих переменных (матрица плана) имеет вид:

Транспонированная матрицаимеет вид:

Найдем произведение матриц ХТХ:

Найдем обратную матрицу:

Найдем произведение матриц:

Найдем уравнение регрессии Y по Х1, Х2 В форме y = a0+ a1x1+ a2x2методом наименьших квадратов путем умножения матрицы на матрицу:

Итак: a0 = - 1,764; a1 = 0,255; a2 = 0,489.

Уравнение множественной регрессии имеет вид:

у = - 1,764 + 0,255×1+ 0,489×2.

2. Значимость параметров уравнения множественной регрессии

Составим расчетную таблицу:

Стандартная ошибка рассчитывается по формуле:

где — диагональный элемент матрицы,.

Отсюда:

Доверительные интервалы коэффициентов регрессии рассчитываются по формуле:

aj — t, n-k * saj аj aj + t, n-k * saj.

t0,95; 9 = 2,2622.

Для коэффициента а0имеемt0,95;

9 * Sa0 = 2,2622 * 0.8722 = 1.973.

тогда a0 — t0,95; 9 * Sa0 = - 1,764 — 1,973 = - 3,737;

А0 — t0,95; 9 * Sa0 = - 1,764 + 1,973 = 0,209.

и доверительный интервал имеет вид (- 3,737; 0,209).

Для коэффициента а1имеемt0,95; 9 * Sa1 = 2,2622 * 0,0994 = 0,225.

тогда a1 — t0,95; 9 * Sa1 = 0,255 — 0,225 = 0,030;

а1 — t0,95; 9 * Sa1 = 0,255 + 0,225 = 0,480.

и доверительный интервал имеет вид (0,030; 0,480).

Для коэффициента а2имеемt0,95; 9 * Sa2 = 2,2622 * 0,0896 = 0,203.

тогда a2 — t0,95; 9 * Sa2 = 0,489 — 0,203 = 0,286;

а2 — t0,95; 9 * Sa2 = 0,489 + 0,203 = 0,692.

и доверительный интервал имеет вид (0,286; 0,692).

Коэффициенты корреляции и детерминации.

Составим расчетную таблицу:

; ;

; ;

Коэффициент детерминации рассчитывается по формуле:

Уравнение регрессии значимо, если (критерий Фишера):

Отсюда F > Fтабл. Уравнение регрессии значимо.

4. Прогнозное значение у при уменьшении вектора х на 6% от максимального уровня

Уменьшаем вектор Х на 6% от максимального уровня:

Х1 max = 18; Х2 max = 10.

Х*1 = 18 * 1,06 = 19,08; Х*2 = 10 * 1,06 = 10,6.

По уравнению множественной регрессии находим прогнозное значение У:

Ур = - 1,764 + 0,255 * 19,08+ 0,489 * 10,6 = 8,28.

Доверительный интервал прогноза:

Задача 3.

Используя данные, представленные в таблице, проверить наличие гетероскедатичности, используя тест Голдфельда — Куандта.

Решение.

Проверим гипотезу о наличии гетероскедастичности с помощью теста Голдфельда-Куандта. Упорядочиваем выборку по возрастанию факторах

Полученную упорядоченную выборку делим на 3 примерно одинаковые части n/3 = 25 / 3 ?8,33. Тогда 8 первых наблюдений, соответствующих малым значениямх, и 8 последних, соответствующих большим значениямх, оставляем. А 9 центральных данных удаляем из рассмотрения.

Сформировались две подвыборки:

По известной процедуре МНК строим уравнения линейной парной регрессии для каждой из этих частей.

корреляция регрессия прогноз детерминация где, а и b — параметры уравнения.

;

Для первой подвыборки:

;

;

;

Для второй подвыборки:

;

;

;

Находим остатки для каждого из этих уравнений, возводим их в квадрат и суммируем:

— первая подвыборка.

— вторая подвыборка.

Находим отношение суммы квадратов остатков, оно подчиняется F-распределению Фишера.

Сравниваем его с табличным значением F-критерия Фишера на уровне значимостиб = 0,05 с (k-1) и (k-1) степенями свободы, где k — объёмы оставшихся частей выборки.

На уровне значимостиб = 0,05 с 7 и 7 степенями свободы табличное значениеF0,05;7;7 = 3,79.

Т.к. наблюдаемое значение меньше табличного: Fн= 2,458 < Fт = 3,79, то гипотеза о наличии гетероскедастичности не отвергается.

Задача 4.

По данным таблицы построить уравнение регрессии, выявить наличие автокорреляции остатков, используя критерий Дарбина — Уотсона и проанализировать пригодность полученного уравнения для построения прогнозов.

Решение.

Уравнение парной регрессии:

где, а и b — параметры уравнения.

;

Составим вспомогательную таблицу.

;

;

;

Рассчитываем для каждого значения х значения ух. Заносим в таблицу.

Критерий Дарбина-Уотсона:

yi.	yx.	ei = y-yx.	(ei — ei-1)2.	ei 2.
101,7.	113,71.	— 12,01.	;	144,24.
101,1.	104,95.	— 3,85.	66,59.	14,82.
100,4.	105,20.	— 4,80.	0,90.	23,04.
100,1.	104,66.	— 4,56.	0,06.	20,79.
	105,76.	— 5,76.	1,44.	33,18.
100,1.	103,47.	— 3,37.	5,71.	11,36.
	105,95.	— 5,95.	6,66.	35,40.
105,8.	103,63.	2,17.	65,93.	4,71.
	111,57.	33,43.	977,19.	1117,56.
99,8.	103,82.	— 4,02.	1402,50.	16,16.
102,7.	103,63.	— 0,93.	9,55.	0,86.
109,4.	97,29.	12,11.	170,04.	146,65.
	112,61.	— 2,61.	216,68.	6,81.
106,4.	106,77.	— 0,37.	5,02.	0,14.
Сумма.	2929,09.	1576,03.

Так как значение критерия Дарбина-Уотсаона близко к 2,0, то можно считать что автокорреляция почти отсутствует.

Задача 5.

В таблице приводятся данные о динамике выпуска продукции Финляндии (млн. долл.).

Задание:

• 1. Постройте график временного ряда
• 2. Найдите коэффициенты автокорреляции (для лагов r = 1; 2) данного ВР.
• 3. Дайте точечный и интервальный (с надежностью 0,95) прогнозы выпуска продукции на момент n+1

Решение.

Построим график временного ряда.

Для обнаружения тенденции в данном ВР воспользуемся критерием «восходящих и нисходящих» серий.

• 1) Для исследуемого ВР определяется последовательность знаков, исходя из условий: (+) при yt+1-yt > 0, (-) при yt+1-yt < 0. При этом, если последующее наблюдение равно предыдущему, то учитывается только одно наблюдение.
• 2) Подсчитывается число серий н (n). Под серией понимается последовательность подряд расположенных плюсов или минусов, причем один плюс или один минус считается серией.
• 3) Определяется протяженность самой длинной серииlmax (n).
• 4) Значениеl (n)находят из следующей таблицы:

5) Если нарушается хотя бы одно из следующих неравенств, то гипотеза об отсутствии тренда отвергается с доверительной вероятностью 0,95.

Определим последовательность знаков:

Определим число серийн (n) = 9. Определим протяженность самой длинной серииlmax (n) = 4, l (n) = 5, так какn=14<26. Проверим выполнение неравенств:

Второе неравенство не выполняются, следовательно, тренд (тенденция) в динамике выпуска продукции имеется на уровне значимости 0,05.

Среднее значение млн.долл.

Среднее значение млн.долл.

Вычислим коэффициенты автокорреляции первого и второго порядков, то есть для лагов ф=1;2.Подготовим данные для вычисления коэффициентов автокорреляции первого и второго порядков. Дополним таблицу данных двумя столбцами Yt-1 и Yt-2.

r1 = 0,85 188.

R2 = 0,8343.

Высокое значение коэффициента автокорреляции первого порядкаr1=0,85 свидетельствует об очень тесной зависимости между выпуском продукции текущего и непосредственно предшествующего годов, и, следовательно, о наличии в исследуемом временном рядесильной линейной тенденции.

Исследуемый ряд содержит только тенденцию, так как наиболее высоким оказался коэффициент автокорреляции первого порядка (0,85>0,83).

Скользящие средние найдем по формуле:

.

здесь m=2p-1.

При m=3, p=1.

Вычисляем:

и так далее.

Результаты вычислений занесем в таблицу и построим графики исходного и сглаженногорядов в одной координатной плоскости.

Параметры (коэффициенты) уравнения тренда.

Анализ данных таблицы дисперсионного анализа показывает, что получено статистически значимое уравнение, так как наблюдаемое значение F=52,785, превышает его табличное значение Fтаб (0,05;1;12)=4,75, tтаб (05;12)=2,1788.

Таким образом, параметры уравнения тренда статистически значимы на уровне б=0,05: уравнение тренда можно использовать для прогноза.

Сделаем точечный и интервальный (с надежностью 0,95) прогнозы среднего и индивидуального значений прогнозов на 2003 год.

Определим точечный прогноз:

млн.долл Вычислим интервальный прогноз.

Так как тренд является прямой, то доверительный интервал можно представить в виде:

Здесь стандартная ошибка предсказания по линии тренда вычисляется по формуле:

Здесь величинаS является стандартной ошибкой регрессии, и ее значение находится в таблице Регрессионная статистика.

t (0,05;12)=2,1788.

Итак, по условию задачи: tn+x=15, n=14.

Для вычисления стандартной ошибки предсказания по линии тренданеобходимо вычислить и сумму.

(млн. долл.).

Максимальная ошибка прогноза будет равна:

(млн. долл.).

Нижняя граница прогноза имеет значение:

20 111,2 — 4096 = 16014(млн. долл.).

Верхняя граница прогноза имеет значение:

20 111,2 + 4096 =24707(млн. долл.).

Выв…