Исходные предпосылки регрессионного анализа и свойства оценок

Изучение статистической зависимости требует достаточно большого объема информации, а именно — данных по достаточно большой совокупности единиц наблюдения. В соответствии с законом больших чисел случайность исчезает тем в большей степени, чем больше единиц наблюдения подвергается обследованию.

Также исследование взаимосвязей между переменными, представляющими значения признаков у единиц совокупности, предполагает однородность совокупности. То есть единицы совокупности должны обладать по крайней мере несколькими общими признаками.

Использование обыкновенного метода наименьших квадратов требует выполнения определенных допущений или предпосылок относительно основных компонентов модели. Условием применения метода наименьших квадратов является соответствие распределения единиц совокупности по зависимому и независимому признаку нормальному закону. Пусть ставится задача описания в виде некоторой функции взаимосвязи двух переменных х и у. Предположим, что между этими переменными теоретически существует простейшая линейная зависимость: где а и /3 — постоянные неизвестные и подлежащие оценке коэффициенты (параметры), х -независимая переменная (регрессор), у — зависимая переменная (регрессанд).

В действительности, на практике между х и у невозможно установить жесткую зависимость. Если она может быть представлена, например, в виде линейной взаимосвязи, то отдельные наблюдения у будут в большей или меньшей мере отклоняться от линейной взаимосвязи в силу воздействия различных неучтенных факторов, случайных причин, помех и т. п. Отклонения от теоретических значений, естественно, могут возникнуть и в силу неправильной спецификации уравнения, описывающего эту взаимосвязь.

Учитывая возможные отклонения, уравнение взаимосвязи двух переменных можно представить в виде:

где и — случайная переменная, называемая возмущением и уже описанная в 4.2. Возмущение представляет аддитивную составляющую, учитывающую ошибки измерения и ошибки спецификации.

При проведении расчетов по специфицированной функции и после нахождения параметров определяются оценки возмущения или случайных остатков. Они не являются реальными случайными остатками, а лишь некоторой выборочной реализацией и. При изменении спецификации модели, добавлении новых факторов и наблюдений выборочные оценки остатков будут меняться. Поэтому при использовании метода наименьших квадратов (МНК) относительно компонентов регрессии, в том числе возмущения, предварительно формулируются предпосылки.

Предпосылки регрессионного анализа приводятся в учебных изданиях (2, 7, 8). Наиболее систематизированный вид они имеют в пособии В. М. Ивановой (2, с.39).

Основные предпосылки касаются случайной переменной и определяют гомоскедастичность или гетероскедастичность оценок. Предпосылки относительно случайной составляющей имеют предварительный характер. После построения уравнения регрессии осуществляется проверка наличия тех свойств, которые предполагались. В таких случаях речь идет о случайных остатках, исходя из того, что и-у-у. Комплекс наиболее важных предпосылок можно свести к следующим положениям.

• 1. Возмущающая переменная и является случайной величиной и нормально распределена.
• 2. Математическое ожидание возмущения М (и) = 0, т. е. средняя величина остатков равна нулю.
• 3. Дисперсия возмущений т²_и= const (свойство гомоскедастичности).
• 4. Возмущения свободны от автокорреляции, т. е. последовательные значения и нс зависят друг от друга.
• 5. Матрица X имеет полный ранг и свободна от экстремальной коллинеарности.
• 6. Объём наблюдений больше числа факторных признаков (п> т).
• 7. Объясняющие переменные не коррелируют с возмущающей переменной.

Предпосылка 1. При построении регрессии предполагается, что зависимый признак у зависит только от тех объясняющих переменных x_k(k = 1,2,…т), которые включены в регрессию. Возмущающая переменная распределена нормально с параметрами N (0,cr_u²) и нс оказывает существенного влияния на переменную у. Это одновременно означает, что переменные у и х_к(/с = 1,2,…т) распределены нормально. При нахождении параметров уравнения регрессии соблюдение этой предпосылки не требуется. Однако это необходимо при проверке значимости уравнения регрессии и параметров уравнения, а также при построении доверительных интервалов.

Предпосылка 2. Суммарный эффект от воздействия на зависимую переменную неуточненных факторов-причин и случайностей учитывается возмущающей переменной. При интерпретации значений регрессии у указывается, что это такие значения переменной у, которые можно было бы ожидать в среднем для заданных значений переменных х_к, т. е. средний уровень переменной у определяется только функцией (4.9) и возмущающая переменная не коррелирует со значениями регрессии. Следовательно, среднее значение переменной у при фиксированных значениях переменных х_к (условное математическое ожидание) равно значению регрессии у, а это значит, что средний остаток равен нулю.

Предпосылка 3. Для каждого объекта в статике, а при анализе временных рядов — в различные периоды времени, возмущающая переменная, учитывающая случайности, оказывает одинаковое влияние. Если это условие не соблюдается, то имеет место свойство гетероскедастичности.

Предпосылка 4. Эта предпосылка особенно важна при анализе временных рядов. Значения возмущающей переменной попарно некоррелированы, т. е. ковариации возмущающих членов равны нулю. Если возмущающие переменные содержат тренд или циклические колебания, то последовательные возмущения, действующие в различные моменты времени, коррелированы. Такой вид зависимости называется автокорреляцией возмущений или остатков.

Предпосылки 5 и 6. При нахождении оценок параметров методом наименьших квадратов система нормальных уравнений имеет решение только тогда, когда существует обратная матрица (XX) '. Поэтому предполагается, что XX — невырожденная матрица или, что-то же самое:

Это означает, что число наблюдений должно превышать число параметров. Определитель матрицы XX должен быть отличен от нуля:

что является необходимым и достаточным условием существования матрицы (ХХу'.

Из этого вытекает требование, что между объясняющими переменными не должно существовать строгой линейной зависимости, т.к. в этом случае ранг матрицы X будет равен нулю. Наличие линейной связи между объясняющими переменными называется мультиколлинеарностью. В частном случае для двух переменных используется термин " коллинеарность" .

Рассмотренная предпосылка является формальным основанием обычного требования о том, что для обоснованности спецификации /7>/77должно быть по крайней мерс в 3−5 раз, а из двух объясняющих переменных х_пх, при.

|r_XJt > 0,8 одну следует исключить.

Предпосылка 7. Эта предпосылка находит свое выражение в том, что предполагается односторонняя зависимость.

В результате статистического наблюдения имеются эмпирические значения независимых переменных и зависимой переменной. Проблема заключается в определении параметров уравнения регрессии. Имеющиеся данные наблюдений представляют выборку ограниченного объема, по которой невозможно получить истинные значения параметров. Расчетные значения являются лишь статистическими оценками истинных параметров.

Получаемые при расчете МНК оценки параметров при условии, что приведенные выше предпосылки справедливы, обладают ценными для применения регрессий в прогнозировании свойствами.

• 1. Оценки параметров являются несмещенными, т. е. математическое ожидание оценок параметров равно истинному значению параметров. Такие оценки можно использовать для сравнения результатов по разным исследованиям.
• 2. Оценки парамегров являются эффективными, т. е они характеризуются минимальной дисперсией. В практических исследованиях это означает возможность перехода от точечного оценивания к интервальному (непрерывному).
• 3. Оценки состоятельны, т. е. их точность

должна возрастать по мере увеличения числа наблюдений. Другими словами дисперсия оценки параметра стремится к нулю с ростом п. Это свойство определяет качество доверительных интервалов. Значения доверительной вероятности стремятся к единице.

Приняв некоторую гипотезу относительно формы кривой, описывающей взаимосвязь переменных, гребуется однозначно подобрать параметры уравнения, т.к. через область, в которой расположены точки, соответствующие отдельным наблюдениям, можно провести множество кривых. Ясно при этом, что, чем больше наблюдений, тем точнее будут оценки.

Необходимо так подобрать кривую, чтобы расчетные значения были максимально близки данным наблюдений. Различные методы оценивания параметров исходят из разных критериев и дают разные оценки параметров для одних и тех же наблюдений. Оценки при этом обладают различными статистическими свойствами. Сравнительный анализ подходов к определению параметров регрессии приведен в работе С. Лизср.^[1]

При оценивании параметров также осуществляется проверка по отношению к ним выдвинутых гипотез относительно характера взаимосвязи, ее адекватности природе закономерностей в изменении переменных, возможностям прогнозирования на основе зависимости и т. п.

Значительный вклад в развитие новых методов получения статистических выводов при исследовании экономических явлений и процессов вносит эконометрическая теория. Стоит отметить, что достижения именно в области эконометрики отмечены Нобелевскими премиями: Рагнар Фриш и Ян Тинберген (1969), Лоуренс Клейн (1980), Трюгве Хаавельмо (1989), Джеймс Хекман и Даниэл МакФадден (2000), Роберт Энгл и Клайв Гренджер (2003).

• [1] Лизср С. Эконометрические методы и задачи (Пер. с англ.). М., «Статистика», 1971, с. 15−21.