Теорема Гаусса—Маркова. 
Эконометрика

Если регрессионная модель (3.22) удовлетворяет предпосылкам 1—4 (с. 61), то оценки Ь₀ (3.11), Ь (3.13) имеют наименьшую дисперсию в классе всех линейных несмещенных оценок (Best Linear Unbiased Estimator, или BLUE)?

Таким образом, оценки и Ь в определенном смысле являются наиболее эффективными линейными оценками параметров Ро И р!

До сих пор мы использовали оценки параметров, полученные методом наименьших квадратов. Рассмотрим еще один.

важный метод получения оценок, широко используемый в эконометрике, — метод максимального правдоподобия.

Метод максимального правдоподобия.

Для его применения должен быть известен вид закона распределения вероятностей имеющихся выборочных данных.

Полагая выполнение предпосылки 5 (с. 72) регрессионного анализа, т. е. н о р м, а л ь н у ю классическую регрессионную модель (3.22), будем рассматривать значения у, как независимые нормально распределенные случайные величины с математическим ожиданием М[у,)= Р"+Р,*" являющимся функцией от и постоянной дисперсией а².

Следовательно, плотность нормально распределенной случайной величины у,

Очевидно, что при заданных значениях х, xiх_п объясняющей переменной X и постоянной дисперсии а² функция правдоподобия L достигает максимума, когда показатель степени при е будет минимальным по абсолютной величине, т. е. при условии минимума функции

(3.13) параметров ро, pi совпадают с оценками метода максимального правдоподобия (3₀ и р, Для нахождения оценки ст² максимального правдоподобия параметра а², максимизирующей функцию L, качественных соображений уже недостаточно, и необходимо прибегнуть к методам дифференциального исчисления. Приравняв частную производную — ⁼ 0 (соответствующие выкладки предлагаем про- да¹

вести читателю самостоятельно), получим.

где параметры ро и pj заменены их оценками Ьо и Ь. Сравнивая с полученной ранее несмещенной оценкой s¹ (3.26), видим, что оценка а² (3.27) метода максимального правдоподобия параметра а² является смещенной.

В соответствии со свойствами оценок максимального правдоподобия оценки (Ьо, Ь) и су² (а значит, и s²) являются состоятельными оценками. Можно показать, что при выполнении предпосылки 5 о нормальном законе распределения возмущения е, (/=1,…, п) эти оценки являются независимыми.