Расчет коэффициентов множественной линейной регрессии
В качестве примера приведем метод Крамера решения квадратных систем нормальных уравнений. Единственное решение квадратной системы линейных уравнений определяется по формуле. Если основной определитель системы, А равен нулю и все определители Аь. также равны нулю, то данная система имеет бесконечное множество решений; Здесь Ь0, Ь,…, Ът — эмпирические коэффициенты регрессии (оценки теоретических… Читать ещё >
Расчет коэффициентов множественной линейной регрессии (реферат, курсовая, диплом, контрольная)
Расчет по методу Крамера
Истинные значения коэффициентов bj по выборке получить невозможно. Вместо теоретического уравнения оценивается эмпирическое уравнение регрессии для индивидуальных наблюдений:
здесь Ь0, Ь,…, Ът — эмпирические коэффициенты регрессии (оценки теоретических коэффициентов (30, (3,(3,"; ei — остатки (оценки отклонений ?,).
Согласно МНК для нахождения оценок б0, Ьи …, Ьт минимизируется сумма квадратов остатков:
Данная функция является квадратичной относительно неизвестных коэффициентов. Она ограничена снизу, следовательно, имеет минимум. Необходимым условием минимума Q, является равенство нулю частных производных:
Приравнивая их к нулю, получаем систему т+ 1 линейных уравнений с т + 1 неизвестными:
Эта система называется системой нормальных уравнений. Данные реальных статистических наблюдений всегда приводят к единственному решению этой системы. Коэффициенты системы (4.8) можно рассчитать с помощью метода Крамера или метода Гаусса.
В качестве примера приведем метод Крамера решения квадратных систем нормальных уравнений. Единственное решение квадратной системы линейных уравнений определяется по формуле.
где, А — основной определитель квадратной системы линейных уравнений; Аь. — определитель, полученный из основного определителя путем замены j-го столбца на столбец свободных членов.
При использовании метода Крамера возможно возникновение следующих ситуаций:
- 1) если основной определитель системы, А равен нулю и все определители Аь. также равны нулю, то данная система имеет бесконечное множество решений;
- 2) если основной определитель системы, А равен нулю и хотя бы один из определителей Аь. не равен нулю, то система решений не имеет.
Пример 4.1.
Найдем коэффициенты уравнения множественной линейной регрессии по данным выборки, приведенным в табл. 4.1.
Таблица 4.1
Данные для примера 4.1.
*1. | Ч | У | |
б. | |||
Решение. Запишем систему нормальных уравнений (4.8) для двух объясняющих переменных:
Производим необходимые вычисления и сведем их в табл. 4.2.
Результаты вычислений к примеру 4.1.
Таблица 4.2
*1. | *2. | У | хУ | •ЧУ | Х2 | ХЧ | ||
i | *1. | *2. | У | ХУ | ЧУ | *? | г2. х2 | *1*2. |
Сумма. |
Составляем систему нормальных уравнений:
Решаем систему уравнений по методу Крамера (4.9). Находим определители:
Вычисляем коэффициенты уравнения регрессии: 
Ответ. Уравнение множественной линейной регрессии 
Пример 4.2.
Найдем коэффициенты уравнения множественной линейной регрессии по выборочным данным, приведенным в табл. 4.3.
Таблица 4.3
Данные для примера 4.2.
! | *1. | *2. | *3. | У |
i | *1. | *2. | *3. | У |
Решение. Запишем систему нормальных уравнений (4.8) для трех объясняющих переменных:
Производим необходимые вычисления и сведем их в табл. 4.4.
Результаты вычислений к примеру 4.2.
Таблица 4.4
i | *1. | *2. | х3 | У | — И//. | *2У | ?ЧУ | ХХ2 | ХХ2 | *2*3. | *1. | *2. | *з. |
Сумма. |
Составляем систему нормальных уравнений: 
Решаем систему, но методу Крамера (4.9).
Н ахо д и мои редел и тел и: 
Вычисляем коэффициенты уравнения регрессии:
Ответ. Уравнение множественной линейной регрессии.
Из приведенных примеров очевидно, что с увеличением числа объясняющих переменных сложность расчетов увеличивается. Поэтому аналитиче- :ки коэффициенты уравнения множественной линейной регрессии обычно рассчитывают с использованием матричного исчисления.