Проверка гипотез относительно коэффициентов линейного уравнения регрессии

Министерство образования и науки Республики Казахстан Карагандинский Государственный технический университет

Факультет экономики и менеджмента Кафедра — «Менеджмент предприятия»

КОНТРОЛЬНАЯ РАБОТА по дисциплине «Эконометрика»

Тема: «Проверка гипотез относительно коэффициентов линейного уравнения регрессии»

Для определения качества модели уравнения регрессии осуществляется процедура проверки гипотез. Статистическая гипотеза — это гипотеза о виде неизвестного распределения, или о параметрах известных распределений.

Основной принцип проверки статистических гипотез: если наблюдаемое значение принадлежит критической области — гипотезу отвергают; если наблюдаемое значение принадлежит области допустимых значений — гипотезу принимают. Правило принятия решения для проверки статистических гипотез — это модель расчета значений выборочных статистических показателей, на основании которых принимается или отвергается нулевая гипотеза.

Процедура проверки гипотезы следующая: необходимо сформулировать нулевую и альтернативную гипотезы; определить уровень значимости; найти наблюдаемое значение, используя формулу стандартизированного критерия; по таблице выяснить критическое значение в соответствии с уровнем значимости и размером выборки, если это необходимо; сравнить критическое значение с наблюдаемым, тем самым использовать правило принятия решения.

Цель работы — овладеть навыками определения параметров линейной регрессии и корреляции с использованием формул и табличного процессора MS Excel, ознакомиться с методикой расчета показателей парной нелинейной регрессии и корреляции, овладеть приемами построения нелинейных регрессионных моделей с помощью MS Exсel, овладеть методикой построения линейных моделей множественной регрессии, оценки их существенности и значимости, расчетом показателей множественной регрессии и корреляции.

Проверка гипотез относительно коэффициентов линейного уравнения регрессии.

Статистическая гипотеза — это гипотеза о виде неизвестного распределения, или о параметрах известных распределений.

Нулевой гипотезой (H₀) называют выдвинутую гипотезу.

Конкурирующей (альтернативной)(H₁) называют гипотезу, которая противоречит нулевой.

Гипотезу, содержащую только одно предположение, называют простой. Например, математическое ожидание нормально распределенной величины равно 5. Гипотеза, которая состоит из двух или нескольких простых гипотез, называют сложной. Например, математическое ожидание нормально распределенной величины больше 5.

Так как проверку производят методами статистики, ее называют статистической. Ошибка первого рода состоит в том, что будет отвергнута правильная гипотеза. Ошибка второго рода состоит в том, что будет принята неправильная гипотеза. Вероятность совершить ошибку первого рода принято обозначать б, ее называют уровень значимости. Наиболее уровень значимости принимают равным 0,05 или 0,01.

Статистическим критерием называют случайную величину, которая служит для проверки нулевой гипотезы. Наблюдаемым значением называют значения критерия, вычисленного по выборкам. Критической областью называют совокупность значений критерия, при которых нулевая гипотеза отвергается.

Областью принятия гипотезы (область допустимых значений) называют совокупность значений критерия, при которых гипотезу принимают.

Основной принцип проверки статистических гипотез: если наблюдаемое значение принадлежит критической области — гипотезу отвергают; если наблюдаемое значение принадлежит области допустимых значений — гипотезу принимают.

Критические точки — это точки, отделяющие критическую область от области принятия гипотезы. Различают одностороннюю (левои правостороннюю) и двустороннюю критические области.

Правило принятия решения для проверки статистических гипотез — это модель расчета значений выборочных статистических показателей, на основании которых принимается или отвергается нулевая гипотеза.

Процедура проверки гипотезы следующая: необходимо сформулировать нулевую и альтернативную гипотезы; определить уровень значимости; найти наблюдаемое значение, используя формулу стандартизированного критерия; по таблице выяснить критическое значение в соответствии с уровнем значимости и размером выборки, если это необходимо; сравнить критическое значение с наблюдаемым, тем самым использовать правило принятия решения.

При проверке качества модели в первую очередь стоит обращать внимание на то, соответствует ли она логике экономического процесса, т. е. мы должны смотреть, реалистичны ли знаки коэффициентов перед независимыми переменными и реалистична ли их величина.

t-статистика:

t-статистика соизмеряет значение коэффициента с его стандартной ошибкой. Фактически же мы проверяем гипотезу о том, равен нулю коэффициент при рассматриваемой переменной или нет. Т. е:

Ho: коэффициент=0. Если эта гипотеза верна, то коэффициент не значим.

Ha: коэффициент не равен 0. Если эта гипотеза верна, то коэффициент значим.

Выяснить, отвергается нулевая гипотеза или нет, можно 2 способами:

1. Метод критических значений (по таблицам):

a) Находим фактическое значение t:

b) Определяем число степеней свободы

m=n-k

n — число наблюдений

k — число оцененных параметров

c) Выбираем уровень значимости (т.е. вероятность ошибки): 1% или 5%.

d) Находим критическое значение по таблице:

в таблице выбираем клетку в строке, соответствующей числу степеней свободы и в столбце, соответствующем выбранному уровню значимости.

e) Сравниваем фактическое значение с табличным:

Если t > t, то коэффициент значим на выбранном уровне значимости (лучше сначала на 1% проверить). Т. е. нулевая гипотеза отвергается.

Если t < t, то коэффициент не значим. Нулевая гипотеза не отвергается.

F-статистика:

F-статистика представляет собой отношение объясненной суммы квадратов (в расчете на одну независимую переменную) к остаточной сумме квадратов (в расчете на одну степень свободы).

Фактически проверяем гипотезу:

Но: все коэффициенты при независимых переменных равны нулю

На: хотя бы один из них нулю не равен.

Выяснить, отвергается нулевая гипотеза или нет, можно 2 способами:

1. По таблицам:

a) Рассчитываем фактическое по формуле:

F (k-1,n-k)=, где

k — число объясняющих переменных.

b) Находим табличное:

· Выбираем уровень значимости б (1% или 5%)

· Вычисляем число степеней свободы: 1 и (n-2).

· По таблицам F-распределения Фишера определяем критическое значение Fб, 1, n-2 (всегда одностороннее)

c) Если Fстатистика (фактическое) > Fб, 1, n-2, то уравнение в целом является значимым при выбранном уровне значимости б .

d) В противном случае уравнение в целом незначимо (на данном уровне б).

Задание 1.

1. Для характеристики зависимости у от х рассчитать параметры следующих уравнений регрессии:

а) линейной;

б) параболической

в) степенной;

2. Рассчитать коэффициент корреляции или индекс корреляции и коэффициент детерминации по каждой модели.

3. Оценить каждую модель через среднюю ошибку аппроксиминации В и F-критерий Фишера.

линейный регрессия корреляция детерминация Решение:

1 Расчет параметров линейной регрессии.

Парная линейная регрессия — уравнение вида, где a и b — параметры регрессии, а — погрешность уравнения (случайная величина).

Параметры уравнения a и b, находят посредством Метода Наименьших Квадратов. Рассчитаем вспомогательные параметры в таблице:

По найденным значениям вычислим параметр b (коэффициент регрессии):

Рассчитаем значение а:

Тогда уравнение регрессии запишется следующим образом:

2. Для оценки тесноты связи в эконометрике используется коэффициент корреляции ®.

.

В нашем случае значение коэффициента корреляции 0,85 говорит о сильной связи между х и у, т. е. связь между индексом человеческого развития и душевым доходом очень сильная. Рассчитаем коэффициент детерминации R². R²=(0.85)²= 0.72. Таким образом, вариация величины доли душевого дохода на 72% зависит от вариации индекса человеческого развития, а на остальные (100%-72%) 28%? от вариации факторов, не включенных в модель.

3. Расчет средней ошибки аппроксимации.

Определим среднюю ошибку аппроксимации по формуле:

Используем данные вспомогательной таблицы:

Тогда средняя ошибка аппроксимации равна

Практически полагают, что значение средней ошибки аппроксимации не должно превышать 8−15%, для грубого приближения регрессии к реальной зависимости. В нашем случае средняя ошибка аппроксимации приблизительно равна указанному значению, поэтому можно говорить о том, что реальная зависимость существует.

4. Оценка значимости уравнения регрессии в целом даётся при помощи F-критерия Фишера. При этом выдвигается нулевая гипотеза (Н₀), что b=0, и, следовательно, фактор х не оказывает влияния на фактор у. Но перед этим следует произвести анализ дисперсии. Рассчитаем D_факт и D_остат:

.

.

Сопоставляя факторную и остаточную дисперсии получаем F-критерий (величину F-отношения):. Если гипотеза Н₀ справедлива, то факторная и остаточная дисперсии не отличаются друг от друга. Для того, чтобы опровергнуть гипотезу Н₀, необходимо полученное F-отношение сравнить с табличным F_кр, которое берётся из таблиц Фишера — Снедекора (при разных уровнях значимости) или определяется по функции Excel FPACПОБР.

Вычислим критическое значение критерия Фишера на уровне значимости =0,05 и числе степеней свободы факторной суммы k₁ и числе степеней свободы остаточной суммы k₂ с помощью статистической функции FPACПОБР: F_кр(=0,05, k₁ =k-1; k₂ =n-k)=5,32, где n=11 — объем выборки; k=2 — количество коэффициентов в уравнении.

Так как F=23 F_кр (=0,05, k₁ = 1; k₂ =9)=5, то нулевая гипотеза Н₀ отвергается и утверждается, что фактор х оказывает влияние на фактор у, уравнение регрессии признаётся значимым (модель достоверна).

2 Расчет параметров параболической регрессии

Спецификация модели зависимости у от х с помощью параболической функции

Приведем эту функцию к линейному виду. Для этого заменив переменные х=х₁, х²=х₂, получим двухфакторное уравнение линейной регрессии:

Исходные и расчетные данные для оценки коэффициентов функции представлены в таблице:

Для оценки параметров используется метод наименьших квадратов. Применение МНК приводит к следующей системе нормальных уравнений:

Решая данную систему получаем значения:

а=-397, b₁=5435, b₂=-209

Уравнение регрессии примет вид:

Рассчитаем коэффициент множественной корреляции.

Показатель множественной корреляции характеризует тесноту связи рассматриваемого набора факторов с исследуемым признаком, или, иначе, оценивает тесноту совместного влияния факторов на результат.

Независимо от формы связи показатель множественной корреляции может быть найден как

Где — общая дисперсия результативного признака;

— остаточная дисперсия для уравнения .

Для расчета используем вспомогательную таблицу:

.

Полученные данные подставим в формулу:

Можно сделать вывод, что связь между параметрами сильная.

Рассчитаем коэффициент детерминации R².

R²=(0,83)²= 0.7.

Доля общего варьирования достаточно высокая, значит изменяемость у обусловлена изменяемостью х. Расчет средней ошибки аппроксимации.

Определим среднюю ошибку аппроксимации:

Полученный результат говорит о том, что существует реальная зависимость между факторами.

Оценка значимости уравнения регрессии в целом даётся при помощи F-критерия Фишера. При этом выдвигается нулевая гипотеза (Н₀), что b=0, и, следовательно, фактор х не оказывает влияния на фактор у.

.

.

Сопоставляя факторную и остаточную дисперсии получаем F-критерий (величину F-отношения):. Вычислим критическое значение критерия Фишера на уровне значимости =0,05 и числе степеней свободы факторной суммы k₁ и числе степеней свободы остаточной суммы k₂ с помощью статистической функции FPACПОБР: F_кр(=0,05, k₁ =k-1; k₂ =n-k)=5, где n=11 — объем выборки; k=3 — количество коэффициентов в уравнении.

Так как F=19 F_кр (=0,05, k₁ =2; k₂ =8)=5, то нулевая гипотеза Н₀ отвергается и утверждается, что фактор х оказывает влияние на фактор у, уравнение регрессии признаётся значимым (модель достоверна).

3 Рассчитаем параметры степенной регрессии Степенная регрессия — уравнение вида

Для линеаризации степенной функции используется метод логарифмирования. Получаем: lnY=lna+blnX.

К полученной функции применяем метод замены: где Y_н=lnY, a_н=lna, Х_н=lnХ и получаем функцию Y_н= a_н+bХ_н, которая является линейной и её коэффициенты можно вычислить методом наименьших квадратов.

Создадим базу данных значений х и у:

По найденным значениям вычислим параметр b:

Рассчитаем значение а_н:

Коэффициент, а вычисляется по формуле: а=exp (a_н)=exp (8,57)=5246,5

Тогда уравнение регрессии запишется следующим образом:

Рассчитаем коэффициент корреляции (r).

.

Таким образом можно говорить о сильной связи между х и у.

Рассчитаем коэффициент детерминации R².

R²=(0.88)²= 0.77

Доля общего варьирования достаточно высокая, значит изменяемость у обусловлена изменяемостью х.

Расчет средней ошибки аппроксимации.

Определим среднюю ошибку аппроксимации по формуле:

Полученный результат говорит о том, что существует реальная зависимость между факторами. Оценка значимости уравнения регрессии в целом даётся при помощи F-критерия Фишера. При этом выдвигается нулевая гипотеза (Н₀), что b=0, и, следовательно, фактор х не оказывает влияния на фактор у.

.

Вычислим критическое значение критерия Фишера на уровне значимости =0,05 и числе степеней свободы факторной суммы k₁ и числе степеней свободы остаточной суммы k₂ с помощью статистической функции FPACПОБР: F_кр(=0,05, k₁ =k-1; k₂ =n-k)=5,32, где n=11 — объем выборки; k=2 — количество коэффициентов в уравнении.

Так как F=29,6 F_кр (=0,05, k₁ = 1; k₂ =9)=5,1, то нулевая гипотеза Н₀ отвергается и утверждается, что фактор х оказывает влияние на фактор у, уравнение регрессии признаётся значимым (модель достоверна).

Задание 2.

1.Рассчитать уравнение множественной регрессии.

2.Найти коэффициент детерминации.

3.Оценить значимость уравнения регрессии через критерий Фишера.

4.Найти частные средние коэффициенты эластичности.

Решение: Линейная модель множественной регрессии имеет вид:

параметры при x называются коэффициентами «чистой» регрессии. Они характеризуют среднее изменение результата с изменением соответствующего параметра на единицу при неизменном значении других факторов, закрепленных на среднем уровне. Вычисление параметров линейного уравнения множественной регрессии проводится с помощью инструмента анализа данных: Регрессия.

Множественная регрессия имеет вид:

У=50,49−2х₁-4,63х₂+3,85х₃.

Значение случайных ошибок параметров a, b₁, b₂, b₃ с учетом округления: 51, -2, -4,6, 3,9.

Значимость уравнения множественной регрессии в целом оценивается с помощью с помощью F-критерия Фишера:

где — индекс множественной корреляции (тоже, что и);

— число наблюдений;

— число факторов.

Полученное по формуле значение F сравнивается с табличным при уровне значимости. Если фактическое значение F-критерия Фишера превышает табличное, то уравнение статистически значимо с вероятностью. При использовании таблицы следует принимать. F_кр(0,05; 3; 8)=4,7.

По данным таблицы Fфакт=79 вероятность получить такой результат равен 4,93E-10, что не превышает допустимый уровень значимости 5%.

Значения скорректированного и некорректированного линейных коэффициентов множественной детерминации приведены в рамках регрессионной статистики. Некорректированный коэф-т множественной детерминации

Оценивает долю вариации результата за счет представленных в уравнении факторов в общей вариации результата.

Здесь эта доля составляет 97% и указывает на тесную связь факторов с результатом.

Скорректированный коэффициент множественной детерминации определяет тесноту связи с учетом степени свободы общей и остаточной дисперсии.

Он дает такую оценку тесноты связи, которая не зависит от числа факторов в модели. Рассчитаем средние частные коэффициенты эластичности:

Находим средние значения факторов:

Коэффициент эластичности, показывает, на сколько процентов изменится величина результативного признака при изменении факторного признака на 1%

Заключение

По полученным данным выберем наилучшую модель, для чего объединим результаты построения парных регрессий в одной таблице 1.

Все уравнения регрессии достаточно хорошо описывают исходные данные.

Таблица 1 Результаты корреляционно-регрессионного анализа

Предпочтение можно отдать степенной функции, для которой значения коэффициентов корреляции и детерминации и F-критериев Фишера наибольшие.

1 Айвазян С. А., Мхитарян В. С. Прикладная статистика и основы эконометрики. М.: ЮНИТИ, 1998.

2 АйвазянС. А. Основы моделирования и эконометрики

3 Бородич С. А. Эконометрика. Учеб. пособие. Мн.: Новое издание 2001.

4 Эконометрика: Учебник / под ред. И. И. Елисеевой.

5 Гмурман В. Е. Теория вероятности и математическая статистика. Учебное пособие. -М.: Высшая школа, 2000. — 479с.

6 Гмурман В. Е. Руководство к решению задач по теории вероятностей и математической статистики. Учебное пособие. -М.: Высшая школа, 2000

7 Доугерти К. Ведение в эконометрику: пер. с.англ. — М.: ИНФРА-М, 2001 ;

8 Количественные методы финансового анализа / Под ред. С.Дж. Брауна и М. П. Крицмена: Пер. с англ. — М.: ИНФРА-М, 1996. -306с.

9 Магнус Л. Р., Катышев П. К., Пересецкий А. А. Эконометрика. Начальный курс. Учеб. — 4-е изд. — М.: Дело, 2000.-248с.

10 Мардас А. Н. Эконометрика. — СПб: Питер, 2001; 144с.

11 Никитин Н. Ш. Математическая статистика для экономистов: Учеб. пособие. — 2-е изд., перераб. и доп. -М.: ИНФРАМ; Новосибирск

12 Кремер Н. Ш. Теория вероятностей и математическая статистика. Учебник для вузов. — М.: ЮНИТИ-ДАНА, 2000.

13 Кремер Н. Ш., Путко Б. А. Эконометрика. Учебник для вузов / Под ред. проф. Н. Ш. Кремера. - М.: ЮНИТИ-ДАНА, 2003.

14 Практикум по эконометрике: Учеб. пособие / И. И. Елисеева, С. В. Курышева, Н. М. Гордеенко и др.; под ред. И. И. Елисеевой. — М.: Финансы и статистика, 2002. — 192с.

15 Катышев П. К., Пересецкий А. А. Сборник задач к начальному курсу эконометрики.- М.: Дело, 1999. -72с.