Мультиколлинеарность. 
Эконометрика

Как отмечалось ранее, для использования метода наименьших квадратов необходимо выполнение предположения о линейной независимости столбцов матрицы X. Оно эквивалентно условию, в соответствии с которым ранг матрицы X (или матрицы Х^ТХ) равен числу неизвестных параметров уравнения множественной регрессии.

Нарушение этого условия свидетельствует о том, что между рассматриваемыми объясняющими переменными существует линейная функциональная связь и матрица Х^ТХ оказывается вырожденной, а это приводит к невозможности вычисления обратной матрицы (Х^тХ)~^х. В результате оценивание параметров по МНК с использованием формулы (4.6) невозможно.

Ситуация, когда две или более объясняющие переменные линейно зависимы, называется полной (совершенной) коллинеарностью, или полной мультиколлинеарностью |2, 17, 19, 28]. Рассмотрим, например, зависимость объема производства у от постоянных х_у переменных х₂ и общих х₃ издержек:

Очевидно, что объясняющие переменные связаны между собой соотношением х₃ = х_{ + х₂, и ранг матрицы X, построенной для этой модели, будет равен трем, что делает невозможным оценку четырех неизвестных параметров. Другими словами, данная модель неидентифицируема. Однако это не означает, что зависимость (4.50) не поддается анализу. Если учесть взаимозависимость объясняющих переменных, то уравнение (4.50) может быть преобразовано следующим образом:

где

Ранг матрицы X, построенной для модели (4.51), тоже будет равен трем, что уже совпадает с числом неизвестных параметров этой модели. Таким образом, параметры 0₍₎, 0, 0₂ можно оценить по методу наименьших квадратов. В общем случае можно показать, что если rgX = г < т, то путем преобразования исходной модели можно однозначно оценить только г линейных комбинаций исходных неизвестных параметров [2, 19, 68].

На практике полная мультиколлинеарность встречается достаточно редко, так как ее несложно избежать на первых этапах эконометрического анализа при выборе объясняющих переменных. Гораздо чаще возникают ситуации, когда между объясняющими переменными нет функциональной линейной зависимости, но наблюдается тесная корреляционная связь. Такое явление называют реальной мультиколлинеарностью, частичной мультиколлииеарностью или просто мультиколлинеарностью [2, 17, 19, 28].

Мультиколлинеарность не создает формальных препятствий для использования метода наименьших квадратов, поскольку матрица X имеет полный столбцовый ранг. В этом случае МНК-оценки формально существуют, но становятся нестабильными — как с точки зрения статистической значимости, так и по величине и знаку. Точных количественных критериев для выявления мультиколлинеарности не существует. Однако известны некоторые характерные признаки мультиколлинеарности:

• • небольшое изменение исходных данных (добавление или изъятие малого количества наблюдений, незначительное изменение значений) приводит к существенному изменению оценок неизвестных параметров вплоть до изменения их знаков;
• • некоторые оценки параметров имеют неправильные с точки зрения экономической теории знаки или неоправданно большие по абсолютной величине значения;
• • большинство или даже все оценки коэффициентов регрессии имеют большие стандартные ошибки и малую значимость, в то время как значения многих из них отличны от нуля, при этом все уравнение в целом — сильно значимое (большое значение коэффициента детерминации и соответствующей ему /^-статистики).

Появление одного или нескольких из перечисленных признаков должно послужить сигналом для детального анализа всех входных факторов модели. При этом хорошим инструментом может стать матрица парных коэффициентов корреляций между входными факторами R, часто называемая матрицей межфакторных корреляций. Если все входные факторы не коррелируют друг с другом (мультиколлинеарность полностью отсутствует), то матрица R будет единичной и ее определитель будет равен единице.

Например, для уравнения.

при отсутствии мультиколлинеарности верно.

Если же между всеми входными факторами наблюдается функциональная линейная зависимость, то

Таким образом, по величине определителя матрицы межфакторных корреляций можно судить о степени мультиколлинеарности. Чем ближе R к единице, тем слабее мультиколлинеарность. Степень близости R к единице можно проверить с помощью критерия yj. Выдвигается гипотеза об отсутствии мультиколлинеарности.

Для проверки этой гипотезы используется статистика Бартлетта [13].

которая имеет распределение, приближенное к

степенями свободы. Если то с вероятностью (1 — а) гипотеза Я₀ отвергается, что свидетельствует о наличии мультиколлинеарности. В противном случае гипотеза не отвергается и обоснованных выводов об отсутствии мультиколлинеарности делать нельзя.

Еще один способ проверки гипотезы #₀ состоит в использовании статистики Лоули [13].

которая также имеет распределение, приближенное к х² с степенями свободы.

Как было отмечено ранее, сильная мультиколлинеарность может привести к целому ряду отрицательных эффектов, поэтому в эконометрической литературе проблеме устранения мультиколлинеарности уделяется большое внимание [2, 19]. Самый простой способ устранения мультиколлинеарности состоит в исключении из модели множественной регрессии одного или нескольких регрессоров. Выбор «кандидата» на устранение можно проводить различными способами.

Один из подходов заключается в использовании множественных коэффициентов корреляции. Для этого все факторы (по очереди) используют в качестве отклика и вычисляют коэффициенты множественной корреляции.

Из модели следует исключить фактор X., которому соответствует наибольшее абсолютное значение коэффициента множественной корреляции

Второй подход основан на анализе матрицы парных коэффициентов корреляции между всеми регрессорами и откликом. Принято считать, что два фактора находятся в тесной линейной зависимости (факторы коллинеарны), если парный коэффициент корреляции между ними статистически значим и больше 0,7 по абсолютному значению [2]. Так как коллинеарные факторы дублируют друг друга, один из них желательно исключить из модели. При этом необходимо стремиться к тому, чтобы фактор, остающийся в модели, при достаточно тесной связи с откликом был наименее тесно связан с другими факторами.

Пусть, например, для модели (4.52) была получена следующая матрица парных коэффициентов корреляции:

Среди входных факторов наиболее тесно связаны между собой переменные Х₂ и Х_у следовательно, одну из них необходимо исключить. Теснота связи с откликом и у Х₂, и у Х₃ достаточно велика. Однако при исключении Х₀ факторы, оставшиеся в модели, будут иметь коэффициент корреляции между собой, равный 0,21, а при исключении Х₃ — 0,68. Поэтому в данном случае целесообразнее исключить из модели фактор Х₂, так как это позволяет в большей степени ослабить эффект мультиколлинеарности, чем исключение фактора Х_у

Существуют и другие способы борьбы с мультиколлинеарностью [2, 17, 19]:

• • преобразование факторов, включенных в модель, при котором снижается эффект мультиколлинеарности (например, переход от исходных данных к первым разностям и т. п.);
• • преобразование уравнения регрессии путем включения в него новых регрессоров или замены коллинеарных факторов на некоторые функции от них;
• • переход к другим методам оценивания, обладающим большей по сравнению с МНК точностью при наличии мультиколлинеарности в исходных данных (например, так называемая «ридж-регрессия»).