Парная регрессия. 
Эконометрика

Парной регрессией называется условное математическое ожидание переменной у как функции от переменной x. Модель парной линейной регрессии имеет вид.

где у — зависимая переменная; ?0, ?1 — неизвестные параметры регрессии; x -независимая переменная;? — случайная составляющая; п — число наблюдений.

Для нахождения оценок параметров ?0 и ?1 часто используется метод наименьших квадратов (МНК), сводящийся к минимизации по и суммы квадратов отклонений:

Оценки МНК параметров имеют вид.

Функция выборочной линейной регрессии будет иметь вид.

Регрессионными остатками называются разности фактических и оцененных значений зависимой переменной:

(1.1).

Если случайные величины при всех , являются некоррелированными и , а X — детерминированный вектор, то случайная величина имеет распределение Стьюдента с (п — 2) степенями свободы.

Гипотеза о конкретном значении коэффициента а, при двусторонней альтернативной гипотезе с проверяется с помощью тестовой статистики:

Если , где - выбранный уровень значимости, то основная гипотеза отвергается.

Если же альтернативная гипотеза односторонняя.

то основная гипотеза отвергается при ).

Аналогично формулируется и проверяется гипотеза о конкретном значении свободного члена ?0.

Проверка гипотезы о равенстве параметра нулю (обычно при двусторонней альтернативной гипотезе) называется проверкой гипотезы о значимости параметра. Если гипотеза о равенстве параметра нулю не отвергается, то этот параметр называется незначимым.

При оценке параметров регрессии статистическими пакетами Excel, Eviews, STATA, SPSS и др. автоматически проводится проверка гипотез о значимости коэффициентов. Для тестовой t-статистики вычисляется p-value (р-значение) — минимальный уровень значимости, при котором основная гипотеза отвергается. Если p-value превышает выбранный уровень значимости, то основная гипотеза (о равенстве коэффициента нулю) не отвергается.

Если коэффициент ?1 является незначимым, то между переменными X и у не существует статистически значимой линейной связи. Если коэффициент ?1 является значимым, то его оценка интерпретируется следующим образом: при увеличении x на одну единицу y изменяется на ?1 единиц (в сторону увеличения при положительном ?1 и в сторону уменьшения при отрицательном ?1).

Пример Имеются статистические данные о значениях двух показателей в разрезе 48 субъектов РФ, которые приведены в табл. 1.1.

• 1. Поступление налогов, сборов и иных обязательных платежей в консолидированный бюджет РФ (без поступлений ЕСН) в 2009 г., млн руб.
• 2. Количество занятых в Российской Федерации в 2009 г., тыс. человек.

Зависимая переменная (у) — поступление налогов, сборов и иных обязательных платежей в консолидированный бюджет РФ («поступление налогов»). Независимая переменная — «количество занятых» (x1).

Таблица 1.1. Некоторые экономические показатели деятельности субъектов РФ в 2009 г.

Источник: данные Росстата.

По исходным данным (см. табл. 1.1) с помощью MS Excel были произведены расчеты и получены значения параметров уравнения парной линейной регрессии (табл. 1.2).

Таблица 1.2. Результаты оценки параметров МНК.

Таблица 1.2 включает оценки параметров, их среднеквадратические ошибки, вероятности ошибочного решения (pvalue), нижние и верхние интервальные оценки параметров с вероятностью 95%. Согласно полученным значениям уравнение парной регрессии запишется в виде.

Для того чтобы определить, на сколько процентов изменится значение у при изменении х на 1%, рассчитывается коэффициент эластичности.

где b = 29,81 — коэффициент регрессии, показывающий, что с увеличением количества занятых на 1 тыс. человек, поступление налогов возрастает в среднем на 29,81 млн руб.

Полученное уравнение регрессии статистически значимо.

Об этом свидетельствуют результаты дисперсионного анализа (табл. 1.3).

Таблица 1.3. Дисперсионный анализ.

В первой графе табл. 1.3 показаны источники вариации зависимой переменной; во второй — число степеней свободы; в третьей — суммы квадратов отклонений; в четвертой — суммы квадратов отклонений, приходящиеся на одну степень свободы; в пятой — значение F-критерия.

Для парной линейной регрессии число степеней свободы равно числу параметров р минус единица:

Число степеней свободы для остаточной вариации равно.

где т — число независимых переменных.

Сумма квадратов отклонений для регрессии называется объясненной (или факторной) и определяется по формуле.

Остаточная сумма квадратов отклонений имеет вид.

В соответствии с правилом сложения дисперсий сумма квадратов отклонений объясненной и остаточной вариации есть не что иное, как общая вариация зависимой переменной:

Тогда.

где MS — сумма квадратов отклонений в расчете на одну степень свободы.

Отсюда имеем формулу.

В нашем примере F = 54,3. Полученное значение F-критерия необходимо сравнить с табличным значением, соответствующим гипотезе . Распределение F-статистики зависит от числа степеней свободы числителя и знаменателя , а также от уровня значимости, т. е. вероятности ошибочного отклонения . На 5%-ном уровне значимости . Поскольку , гипотеза не принимается.

В табл. 1.4 приведены значения зависимой переменной, рассчитанные по уравнению регрессии а также значения остатков

Таблица 1.4. Вывод остатка.