Статистика

Линейная регрессия (теоретическое линейное уравнение регрессии) представляет собой линейную функцию между условным математическим ожиданием зависимой переменной Y и одной объясняющей переменной X (значения независимой переменной в i-ом наблюдении,).

.

Для отражения того факта, что каждое индивидуальное значение отклоняется от соответствующего условного математического ожидания, необходимо ввести в последнее соотношение случайное слагаемое .

Это соотношение называется теоретической линейной регрессионной моделью, и теоретическими параметрами (теоретическими коэффициентами) регрессии, случайным отклонением.

Следовательно, индивидуальные значения представляются в виде суммы двух компонент систематической и случайной, причина появления котрой достаточно подробно рассмотрена ранее. В общем виде теоретическую линейную регрессионную модель будем представлять в виде:

.

Для определения значений теоретических коэффициентов регрессии необходимо знать и использовать все значения переменных K и Y генеральной совокупности, что практически невозможно.

Таким образом, задачи линейного регрессионного анализа состоят в том, чтобы по имеющимся статистическим данным для переменных K и Y:

а) получить наилучшие оценки неизвестных параметров и ;

Следовательно, по выборке ограниченного объема мы сможем построить так называемое эмпирическое уравнение регрессии

где оценка условного математического ожидания; и оценки неизвестных параметров и, называемые эмпирическими коэффициентами регрессии. Следовательно, в конкретном случае:

где отклонение оценка теоретического случайного отклонения .

Параметры уравнения и находят методом наименьших квадратов (метод решения систем уравнений, при котором в качестве решения принимается точка минимума суммы квадратов отклонений), то есть в основу этого метода положено требование минимальности сумм квадратов отклонений эмпирических данных от выравненных :