Построение регрессионной модели в условиях гетероскедастичности и гомоскедастичности

Регрессиомнный анализ — статистический метод исследования влияния одной или нескольких независимых переменных X₁, X₂, …, X_p на зависимую переменную Y. Независимые переменные иначе называют регрессорами или предикторами, а зависимые переменные — критериальными.

Регрессионная модель — экономико-статистическая модель, основанная на уравнении регрессии, или системе регрессионных уравнений, связывающих величины экзогенных (входных, «объясняющих») и эндогенных (выходных) переменных.

Регрессионная модель — это функция, описывающая зависимость между количественными характеристиками сложных систем. Получение регрессионной модели происходит в два этапа:

• 1) подбор вида функции;
• 2) вычисление параметров функции.

Чаще всего выбор производится среди следующих функций:

y=ax+b — линейная функция;

y=ax2+bx+c — квадратичная функция;

y=aln (x)+b — логарифмическая функция;

y=aebx — экспоненциальная функция;

y=axb — степенная функция.

регрессионный гетероскедастичность дисперсия При оценке параметров уравнения регрессии применяется метод наименьших квадратов (МНК). При этом делаются определенные предпосылки относительно составляющей, которая представляет собой в уравнении:

ненаблюдаемую величину.

Исследования остатков предполагают проверку наличия следующих пяти предпосылок МНК:

• 1) случайный характер остатков. С этой целью строится график отклонения остатков от теоретических значений признака. Если на графике получена горизонтальная полоса, то остатки представляют собой случайные величины и применение МНК оправдано. В других случаях необходимо применить либо другую функцию, либо вводить дополнительную информацию и заново строить уравнение регрессии до тех пор, пока остатки не будут случайными величинами.
• 2) нулевая средняя величина остатков, т. е.:

.

не зависящая от хi. Это выполнимо для линейных моделей и моделей, нелинейных относительно включаемых переменных. С этой целью наряду с изложенным графиком зависимости остатков от теоретических значений результативного признака ух строится график зависимости случайных остатков от факторов, включенных в регрессию хi. Если остатки на графике расположены в виде горизонтальной полосы, то они независимы от значений xj. Если же график показывает наличие зависимости и хj то модель неадекватна. Причины неадекватности могут быть разные.

• 3) Гомоскедастичность — дисперсия каждого отклонения одинакова для всех значений хj. Если это условие применения МНК не соблюдается, то имеет место гетероскедастичность. Наличие гетероскедастичности можно наглядно видеть из поля корреляции.
• 4) Отсутствие автокорреляции остатков. Значения остатков распределены независимо друг от друга. Автокорреляция остатков означает наличие корреляции между остатками текущих и предыдущих (последующих) наблюдений. Отсутствие автокорреляции остаточных величин обеспечивает состоятельность и эффективность оценок коэффициентов регрессии.
• 5). Остатки подчиняются нормальному распределению.

В тех случаях, когда все пять предпосылок выполняются, оценки, полученные по МНК и методу максимального правдоподобия, совпадают между собой. Если распределение случайных остатков не соответствует некоторым предпосылкам МНК, то следует корректировать модель, изменить ее спецификацию, добавить (исключить) некоторые факторы. Преобразовать исходные данные, что в конечном итоге позволяет получить оценки коэффициентов регрессии aj, которые обладают свойством несмещаемости, имеют меньшее значение дисперсии остатков, и в связи с этим более эффективную статистическую проверку значимости параметров регрессии.

Оценки параметров регрессии должны отвечать определенным критериям. Они должны быть несмещенными, состоятельными и эффективными. Эти свойства оценок, полученных по МНК, имеют чрезвычайно важное практическое значение в использовании результатов регрессии и корреляции.

Несмещенность оценки означает, что математическое ожидание остатков равно нулю. Если оценки обладают свойством несмещенности, то их можно сравнивать по разным исследованиям.

Оценки считаются эффективными, если они характеризуются наименьшей дисперсией. В практических исследованиях это означает возможность перехода от точечного оценивания к интервальному.

Состоятельность оценок характеризует увеличение их точности с увеличением объема выборки.

Метод наименьших квадратов строит оценки регрессии на основе минимизации суммы квадратов остатков.

Гетероскедатичность Гетероскедастичность — понятие, используемое в прикладной статистике (чаще всего — в эконометрике), означающее неоднородность наблюдений, выражающуюся в неодинаковой (непостоянной) дисперсии случайной ошибки регрессионной (эконометрической) модели. Гетероскедастичность противоположна гомоскедастичности, означающей однородность наблюдений, то есть постоянство дисперсии случайных ошибок модели.

Чаще гетероскедастичность возникает в моделях, основанных на перекрестных выборках, но встречается и во временных рядах.

Виды гетероскедатичности:

• 1. Истинная гетероскедастичность (вызывается непостоянством дисперсии случайного члена, ее зависимостью от различных факторов).
• 2. Ложная гетероскедатичность (вызывается ошибочной спецификацией модели регрессии).

Источники гетероскедатичности:

1) Истинная гетероскедатичность возникает в пространственных выборках при зависимости масштаба изменений зависимой переменной от некоторой переменной называемой фактором пропорциональности (Z).

Наиболее распространенный случай истинной гетероскедатичности: дисперсия растет с ростом одного из факторов.

• 2) Истинная гетероскедатичность также возникает во временных рядах когда зависимая переменная имеет большой интервал качественно неоднородных значений или высокий темп изменений.
• 3) Истинная гетероскедатичность возникает в любой модели если качество данных варьирует внутри выборки.

Последствия гетероскедатичности:

• 1) Истинная гетероскедатичность не приводит к смещению оценок коэффициентов регрессии.
• 2) Гетероскедатичность увеличивает дисперсию распределения оценок коэффициентов.
• 3) Гетероскедатичность вызывает тенденцию к недооценке стандартных ошибок коэффициэнтов при использовании МНК.

Тестирование гетероскедастичности.

В первом приближении наличие гетероскедастичности можно заметить на графиках остатков регрессии (или их квадратов) по некоторым переменным, по оцененной зависимой переменной или по номеру наблюдения. На этих графиках разброс точек может меняться в зависимости от значения этих переменных.

Для более строгой проверки применяют, например, статистические тесты Уайта, Голдфелда—Куандта, Бройша—Пагана, Парка, Глейзера, Спирмена.

Способы снижения гетероскедастичности:

• 1) Использовать взвешенный метод наименьших квадратов.
• 2) Переопределить переменные.
• 3) Вычисление стандартных ошибок с поправкой на гетероскедатичность (метод Уайта).

Гомоскедастичность — однородная вариативность значений наблюдений, выражающаяся в относительной стабильности, гомогенности дисперсии случайной ошибки регрессионной модели. Явление, противоположное гетероскедастичности.