Регрессионные динамические модели

Стохастические регрессоры

До сих пор мы предполагали, что в регрессионной модели (4.2).

объясняющие переменные Xj (J = 1,…, /?), образующие матрицу X, не являются случайными. Напомним, что, по сути, это означает, что если бы мы повторили серию выборочных наблюдений, значения переменных Xj были бы теми же самыми (между тем, как значения У изменились бы за счет случайного члена е).

Подобное предположение, приводящее к значительным техническим упрощениям, может быть оправдано в том случае, когда экспериментальные данные представляют собой пространственную выборку. В самом деле, мы можем считать, что значения переменных Xj мы выбираем заранее, а затем наблюдаем получающиеся при этом значения У (здесь имеется некоторая аналогия с заданием функции «по точкам» — значения независимой переменной выбираются произвольно, а значения зависимой вычисляются). В случае временного ряда, регрессоры которого представляют собой временной тренд, циклическую и сезонную компоненты, объясняющие переменные также, очевидно, нс случайны.

Однако в тех случаях, когда среди регрессоров временного ряда присутствуют переменные, значения которых сами образуют временной ряд, предположение об их детерминированности неправомерно. Так что в моделях временных рядов мы, как правило, должны считать наблюдения x_tj (t= 1,…, п j = 1,…, р) случайными величинами.

В этом случае естественно возникает вопрос о коррелированности между регрессорами и ошибками регрессии ?. Покажем, что от этого существенно зависят результаты оценивания — причем не только количественно, но и качественно.

Мы будем предполагать, что x_tj и у, — стационарные временные ряды, т. е. все случайные величины х, имеют одно и то же распределение (и аналогично y_t).

Предположим пока для простоты, что имеется всего один регрессор X, т. е. модель имеет вид:

Рассмотрим ковариации обеих частей равенства (8.2) со случайной величиной х:

Отсюда (учитывая, что Cov (x,, л,) = D (x,)) получим:

(отметим, что так как x_h y_t — стационарные ряды, то ковариации, входящие в правую часть равенства (8.3), для всех значений t совпадают). Рассмотрим выборочные оценки этих ковариаций:

Сравнивая (8.4) с (3.13), получаем следующее выражение для оценки параметра р:

или, подставляя у, = а + рх, + г, находим:

Рассмотрим отдельно три случая.

1. Регрессоры X и ошибки регрессии е не коррелируют, т. е. генеральная ковариация Cov (x_Sy е,)=0 для всех s, t = 1,…, п.

В этом случае из (8.5) следует:

Отсюда в силу некоррелированности X и z и условия M (z)=О, получаем:

т. е. оценка b оказывается в этом случае несмещенной.

Эта оценка является также состоятельной. В самом деле, при неограниченном увеличении объема выборки оценки ковариаций сходятся по вероятности^[1] к их генеральным значениям. В то же время предел по вероятности отношения двух случайных величин равен отношению их пределов, т. е.

но если Cov (*/,?/)=(), то из (8.3) следует, что ⁹У*) = р .

ЩХ')

2. Значения регрессоров X не коррелированы с ошибками регрессии z в банный момент времени, но коррелируют с ошибками регрессии в более ранние моменты времени t — т.

В этом случае оценка (8.2) остается состоятельной: доказательство дословно повторяет то, которое приведено в предыдущем пункте. Однако она уже не будет несмещенной. В самом деле, выборочная дисперсия D (xj) содержит значения во все моменты времени, т. е. D (x,) коррелирует с ей, стало быть, равенство (8.6), используемое в предыдущем пункте для доказательства несмещенности р, неверно.

3. Значения регрессоров X_t коррелированы с ошибками е,.

В этом случае, очевидно, не проходят ни доказательство несмещенности, ни доказательство состоятельности. Состоятельность, вообще говоря, может сохраниться, если выборочная дисперсия D (x_{) неограниченно возрастает с увеличением объема выборки, однако, в этом случае каждая конкретная задача требует отдельного анализа.

Итак, если рассматривается модель.

со стохастическими регрессорами, то оценки параметра р, полученные методом наименьших квадратов:

• • несмещенные и состоятельные, если объясняющие переменные и ошибки регрессии не коррелируют;
• • состоятельные, но смещенные, если объясняющие переменные коррелируют с ошибками регрессии в более ранние моменты времени, но не коррелируют в один и тот же момент времени;
• • смещенные и несостоятельные, если объясняющие переменные и ошибки регрессии коррелируют в том числе и в одинаковые моменты времени.

В точности такие же результаты могут быть получены и в случае множественной регрессии, когда р — векторный параметр. Мы не будем здесь приводить соответствующие выкладки.

Таким образом, коррелированность регрессоров и ошибок регрессии оказывается значительно более неприятным обстоятельством, чем, например, гетероскедастичность или автокорреляция. Неадекватными оказываются не только результаты тестирования гипотез, но и сами оценочные значения параметров.

Мы рассмотрим две наиболее часто встречающиеся причины коррелированности регрессоров и ошибок регрессии.^[2]

торый продается фирме-производителю по цене X. Фирма изготовляет из субпродукта конечный товар, который перевозится в областной центр и реализуется по цене Y Цены на сырье первого и второго типа меняются и образуют временные ряды Z и Z2.

Допустим, фирма-производитель хочет построить зависимость цены реализации Y от цены X и рассматривает регрессионную модель.

Применение к экспериментальным данным метода наименьших квадратов даст следующий результат:

Насколько достоверны полученные результаты? Очевидно, и доставка сырья в город В, и доставка конечного продукта в город С связаны с перевозками, а значит, такие факторы, как затраты на топливо, зарплата водителей, состояние дорог и т. д. будут влиять и на формирование цены X, и на конечную цену Y при заданном X, т. е. на величину ошибок регрессии модели. Таким образом, регрессоры и ошибки регрессии оказываются коррелированными, и оценки, полученные методом наименьших квадратов, несостоятельны.

В следующем параграфе мы вернемся к этому модельному примеру, а пока отметим вторую типичную причину коррелированности объясняющих переменных и случайного члена.

2. Ошибки при измерении регрессоров. Пусть при измерении регрессора Xj допускается случайная ошибка Ц, удовлетворяющая условию M (u_tJ)=0, т. е. в обработку поступает не истинное наблюдаемое значение x_tj, а искаженное.

При оценивании модели фактически рассматривается регрессия.

Именно из этого уравнения мы и получим оценку р. Между тем, в действительности, имеем:

т. е. v = s — ?Ур, и, следовательно, в фактически рассматриваемой модели имеется корреляция между фиксируемыми значениями регрессоров X* и случайным членом v: Cov (Z", v) = —Cov (U, U)p.

Отметим, что обе указанные причины коррслированности регрессоров и ошибок регрессии имеют один и тот же математический смысл; значения объясняемых переменных формируются не присутствующим в модели регрессором, а каким-то другим, и, стало быть, оценивается «не тот» параметр.

При рассмотрении конкретных регрессионных моделей временных рядов с коррелированностью регрессоров и ошибок приходится сталкиваться довольно часто. Мы рассмотрим примеры таких моделей в настоящей главе, а пока приведем наиболее часто используемый прием, применяемый в подобных случаях, — метод инструментальных переменных.

• [1] См. сноску на с. 52.
• [2] На случайный член е воздействуют те же факторы, что ина формирование значений регрессоров. Пусть, например, существует переменная U, такая, что в регрессионных моделях коэффициенты у и 5 значимо отличаются от нуля. (Будем здесьсчитать для простоты, что имеется лишь один регрессор X, рассматриваемый как случайная величина.) Предположим, однако, что мы не имеем наблюдаемых значений U и рассматриваем модель Естественно ожидать в этом случае коррелированность регрессоров X и ошибок регрессии е (Cov (X, г) = убСо (U, U)). Рассмотрим следующий модельный пример. В поселке Л производится сырье двух видов 1 и И. Сырье перевозится в город В, где на заводе производится субпродукт, ко-