Парная линейная регрессия

Рассмотрим теоретические предпосылки и принципы применения корреляционного и регрессионного анализа на условном примере, когда изучается влияние только одного воздействующего фактора на результативный фактор, и они связаны между собой линейной зависимостью. Для количественных данных корреляционный анализ обычно дополняется регрессионным, а именно построением уравнения зависимости между переменными. Парная линейная зависимость может быть выражена с помощью уравнения.

где у — результирующая (зависимая) переменная; а — свободный член уравнения; Ь — коэффициент регрессии; х — факторная (независимая) переменная.

Линейная регрессия находит широкое применение на практике ввиду ее простоты и четкой экономической интерпретации параметров. Регрессионный анализ сводится к нахождению параметров уравнения а и Ь. Уравнение позволяет по заданным значениям фактора х находить теоретические значения результативного признака, подставляя в него фактические значения х. Классический подход к оцениванию параметров линейной регрессии основан на методе наименьших квадратов (МНК). Суть его состоит в минимизации суммы квадратов отклонений наблюдаемых значений зависимой переменной (у) от ее теоретических значений (у), вычисленных по уравнению связи с факторным признаком на основе значений переменной хг.

Рассчитать абсолютно точные значения а и Ь невозможно, задачей метода является получить их оценки с максимальной точностью. Приведенное выражение можно преобразовать следующим образом:

Показатель 5 представляет собой меру ошибки, возникающей при аппроксимации фактической зависимости прямой линией. Наилучшие оценки а и Ъ минимизируют эту ошибку. Запишем необходимые условия экстремума:

Найдя частные производные от 5 по а и по Ь, получим:

Раскроем скобки:

Учитывая, что можно записать следующее:

Разделим обе части первого уравнения на п. Выразим из первого уравнения а и подставим полученное выражение во второе уравнение. После преобразования получим.

Преобразуя второе уравнение, приведем к виду.

Из второго уравнения можно получить зависимость для определения оценки Ь модели регрессии:

Разделив числитель и знаменатель на п, получим.

Знаменатель уравнения представляет собой дисперсию факторах При подстановке в это уравнение формулы дисперсии для х после преобразований формула примет более удобный для практических расчетов вид:

Параметр Ь называется коэффициентом регрессии. Его величина показывает среднее изменение результата при изменении фактора на одну единицу. Формально а — это значение признака у при х = 0. Если признак-фактор х не может иметь нулевого значения, то вышеуказанная трактовка свободного члена а не имеет смысла. В различных случаях параметр а также может и не иметь ясного экономического содержания. Интерпретировать полученные значения Ь можно следующим образом: увеличение значения фактора х на одну единицу приведет к увеличению значения фактора у на Ь единиц. При этом факторы у их имеют естественные для них единицы измерения.

Величина 5 всегда положительна и зависит от выбора значений а и Ь, так как они определяют положение линии регрессии по отношению к осям координат. Чем меньше 5, тем точнее построена модель. При минимизации суммы квадратов остатков автоматически максимизируется коэффициент детерминации (/?²), характеризующий близость наблюдаемых и теоретических значений результативного фактора.

Для парной линейной регрессии дисперсию фактора у можно разложить на две составляющие:

где Щу) — часть общей дисперсии, объясненная уравнением регрессии (факторная дисперсия); О (у-у) — оставшаяся необъясненной часть (остаточная дисперсия).

Отношение Щу) к О (у) называют коэффициентом детерминации, представляющим собой долю дисперсии, объясненной уравнением регрессии, в общей дисперсии. Он вычисляется по следующим формулам:

где п — количество единиц в совокупности; у_{ — теоретическое значение результативного фактора для ?-й единицы; г/, — наблюдаемое значение результативного фактора для г-й единицы.

Значение коэффициента изменяется в пределах от 0 до +1. При оценке регрессионных моделей чем ближе это значение к 1, тем лучше модель соответствует наблюдаемым данным. Если В² не меньше 0,50 (50% доля факторной дисперсии в общей), то модель может считаться приемлемой. В этом случае коэффициент корреляции значений факторов превышает по модулю 0,7. Модели с коэффициентом детерминации выше 0,8 признаются хорошими. Значение В², равное 1, означает функциональную зависимость между факторами. Для линейной модели коэффициент детерминации равен квадрату коэффициента корреляции. Более обобщенной является вторая из приведенных формул В². Первая может использоваться только для моделей с константой.

Пример 11.5.

Оцените форму зависимости между значениями показателей, приведенных в примере 11.4. Кратко интерпретируйте полученные результаты.

Для указанных исходных данных построим ноле корреляции. Для этого изобразим точками на осях координат соответствующие нары значений показателей, по вертикальной оси отложим уровень травматизма, по горизонтальной — ВВП. Графическая форма этой зависимости представлена на рис. 11.1.

Рис. 11.1. Зависимость между ВВП и средним уровнем производственного травматизма в России в период 2000—2011 гг.

Значение коэффициента корреляции и зрительный анализ графика свидетельствуют о линейной зависимости между показателями. Построим тренд линейного типа. Его уравнение и значение коэффициента детерминации представлены на рис. 11.1. Из уравнения следует, что увеличение ВВП на 1 млрд руб. приводит к снижению количества пострадавших на производстве в среднем на 0,0002 человека на каждые 1000 работающих. Близкое к единице значение коэффициента детерминации свидетельствует о достаточно высоком качестве описания линией тренда фактической взаимосвязи между показателями. Однако делать выводы о существовании причинно-следственной зависимости между этими показателями только на основании указанных данных нет оснований, так как значения обоих показателей могут быть следствием влияния совершенно других факторов.