Методы оценивания параметров

При оценивании неизвестных параметров 0. и а* модели (9.22), (9.23) сначала, как правило, определяют оценки компонент дисперсии о²_?, зная которые, можно вычислить ОМНК-оценки фиксированных параметров по известной формуле.

где.

Кроме обобщенного метода наименьших квадратов для оценивания параметров модели (9.22) могут быть использованы и другие подходы [79]. Получаемые при этом оценки тесно связаны с оценками компонент дисперсии. В настоящее время разработано множество методов оценивания компонент дисперсии. Рассмотрим некоторые наиболее известные из них [82, 27, 98].

Оценки дисперсионного анализа. Идея построения оценок дисперсионного анализа, или ANOVA-оценок¹, состоит в построении таблицы, в которую заносятся специальным образом выбранные суммы квадратов и их математические ожидания, являющиеся, в свою очередь, линейными комбинациями компонент дисперсии [27]. Приравнивание вычисленных сумм квадратов их математическим ожиданиям дает систему линейных алгебраических уравнений, решением которой и являются ANOVA-оценки. В случае если исходные данные не имеют пропусков (сбалансированная панель), эти оценки обладают свойством несмещенности и имеют минимальную дисперсию среди всех квадратичных несмещенных оценок, а в предположениях нормальности — среди вообще всех несмещенных оценок. При нарушении свойства сбалансированности данных ANOЙ4-оценки теряют некоторые хорошие статистические свойства, сохраняя только несмещенность. В этом случае оценки уже нельзя получить простым приравниванием вычисленных средних квадратов их математическим ожиданиям. Здесь система уравнений может быть построена на основе других квадратичных форм. Идеи этого подхода лежат в основе построения внутригрупповых и межгрупповых оценок, метода симметричных сумм и алгоритмов Хендерсона [90, 92, 103, 104].

Наиболее универсальным алгоритмом построения ANОКЛ-оценок является третий алгоритм Хендерсона 1103]. Для модели (9.22) и (9.23) оценки компонент дисперсии, полученные по этому алгоритму, имеют следующий вид:

где.

Оценки максимального правдоподобия. Другим подходом к оцениванию параметров модели со случайными эффектами является метод максимального правдоподобия. Суть этого метода заключается в максимизации функции правдоподобия, зависящей от параметров модели (9.22), (9.23). Оценки максимального правдоподобия, или сокращенно ML-оценки¹, являются состоятельными и асимптотически эффективными. Тем не менее ML-оценки имеют ряд недостатков, в частности необходимость фиксации функции распределения вектора наблюдений, отсутствие свойства несмещенности и то, что все хорошие статистические качества оценок достигаются в асимптотике [90]. В предположении о многомерном нормальном распределении вектора наблюдений функция правдоподобия принимает вид.

Необходимые условия существования максимума функции правдоподобия определяют систему уравнений максимального правдоподобия. Если обозначить Л = logl, то система уравнений максимального правдоподобия принимает следующий вид:

где

Уравнение (9.28) может быть разрешено относительно

Решением уравнения (9.27) является оценка (9.24).

В работе [90] для поиска оценок максимального правдоподобия была предложена следующая итерационная процедура.

Шаг 1. Задается некоторое начальное приближение вектора у⁽⁰ с помощью которого вычисляются оценки (9.24), (9.28).

Д ^ д Л Шаг 2. Полученные оценки а, 0 и а_ь. подставляются в уравнение (9.29). Решением уравнения (9.29) является новое значение /Ч для которого снова выполняем шаг 1.

Итерационный процесс продолжается до тех пор, пока не будет достигнута заданная точность.

Оценки ограниченного максимального правдоподобия. Несмещенной модификацией оценок максимального правдоподобия являются оценки ограниченного максимального правдоподобия, сокращенно — REML-оценки¹ [88]. Идея данного подхода заключается в следующем 5-преобразовании вектора наблюдений:

где

Векторы Zj и Z₂ независимы в силу ортогональности матриц S и X. Логарифмические функции правдоподобия для них могут быть записаны следующим образом:

с

Распределение вектора Z, не зависит от постоянных эффектов, поэтому при максимизации получаются оценки, инвариантные к изменению постоянных параметров.

Однако оптимизация выражения (9.31) может быть затруднена, если матрица SQ.S вырождена. Избежать этого позволяет введенное в работе [ 881 альтернативное Г-иреобразование. Матрица Т задается таким образом, чтобы сохранялось условие ортогональности.

кроме того, матрицы Т и S связаны между собой соотношением.

При замене S на Т функция Х₂ не изменяется, а Х_х принимает вид.

Оценки, получаемые максимизацией функции (9.32), являются оценками ограниченного максимального правдоподобия.

Еще один подход к оцениванию компонент дисперсии был рассмотрен К. Р. Рао |98|, который предложил искать оценки в виде квадратичных форм вектора наблюдений Y^TAY с неизвестной матрицей А. Элементы этой матрицы определяются как решение некоторой оптимизационной задачи, а требования к свойствам оценок учитываются как ограничения соответствующей оптимизационной процедуры. Результатом применения такого подхода стали оценки минимальной нормы, сокращенно — M/iVQ-оценки¹. В качестве оптимизируемого функционала при построении этих оценок используется разность (в смысле евклидовой нормы разницы соответствующих матриц) между искомой оценкой и некоторой гипотетической «естественной» оценкой, построенной по истинным значениям случайных эффектов. Для вычисления MINQ-оценок необходима информация об истинных значениях компонент дисперсии в виде некоторых априорных значений. Естественно предположить, что наилучших результатов можно добиться, если априорные значения компонент дисперсии будут совпадать с истинными значениями. На практике такая ситуация нереальна.

Поэтому очевидно, что оценки, предложенные Рао, являются локально оптимальными, т. е. зависят от выбора начального приближения. Кроме того, эти оценки являются несмещенными, а при выполнении свойства симметричности закона распределения вектора наблюдений MINQ-оценки имеют минимальную дисперсию в классе квадратичных оценок, т. е. являются эффективными в этом классе оценок.

Для модели (9.22), (9.23) MINQ-оценки имеют следующий вид:

где

К сожалению, вычисление оценок компонент дисперсии требует применения специализированных эконометрических программных пакетов, поэтому чаще всего на практике используют простейшие оценки компонент дисперсии, пригодные только для сбалансированных панельных данных [19, 28, 35]. Отметим, что проверку значимости фиксированных параметров модели (9.21) следует проводить на основе методов дисперсионного анализа.