Линейная модель статистической связи

Теперь перейдем от функциональной связи к статистической. Для этого необходимо добавить в модель стохастическую компоненту:

Однако недостаточно просто добавить некоторую случайную переменную к линейной функции. Требуется наложить на е довольно жесткие ограничения. В противном случае, подбирая нужные значения ошибки, мы можем сделать верным равенство (10.3) при любых, самых произвольных параметрах функции. Это очень важный момент, и мы поясним его на отдельном примере.

Допустим, исследуется влияние военного потенциала (X) на уровень влиятельности государства на международной арене (У). Сейчас нас не интересует операционализация этих признаков, поэтому будем считать, что оба они измерены по шкале от -10 до 10. Разумно предположить, что связь междуУ и У должна быть прямой: при увеличении военного потенциала пропорционально увеличивается средний показатель международного влияния. Соответственно, параметр (3, должен быть положительным. Об этом свидетельствуют и данные в табл. 10.2 (пример учебный).

Но мы не будем прислушиваться к голосу разума и сформулируем совершенно произвольную гипотезу, согласно которой связь между военным потенциалом и международным влиянием обратная: к примеру, (3, = -1, (3₀ = 0. Подставив эти параметры в функцию, мы рассчитаем предсказанные значения У (см. табл. 10.3).

Таблица 10.3

Значения зависимой переменной У, предсказанные функциональной частью модели, мы будем всегда обозначать У. Обратите внимание, что справедливы следующие равенства:

Очевидно, наши предсказания не слишком близки к реальности: сравните столбцы К и У в табл. 10.3. И тем не менее мы можем доказать справедливость гипотезы, если подберем такие значения е, которые обеспечивают выполнение равенства (10.5).

Таблица 10.4

Действительно, У, = У, + е, = = —2 + 5 = 3 — и т. д. Такой результат нас не может устроить, ведь тогда модель (10.3) будет подтверждать любую, даже самую абсурдную гипотезу. Наложим первое ограничение на е: математическое ожидание случайной ошибки должно равняться нулю:

Содержательно равенство (10.6) означает, что предсказанное значение У должно с равной вероятностью завышать и занижать истинное значение У. Принятое в статистике понятие, отражающее это требование, вам уже знакомо: оно называется несмещенностью. В нашем примере с военным потенциалом и международным влиянием все ошибки положительны, их среднее арифметическое составляет 11,6 * 0. Следовательно, модель неверно отражает связь между военным потенциалом и международным влиянием, порождая систематическое смещение.

Требование (10.6) — не единственное. Другие ограничения, накладываемые на случайную составляющую, мы рассмотрим позже. Пока же продолжим построение компьютерной модели линейной статистической связи.

Упражнение 10.1 (продолжение).

• 9. В столбце Е сгенерируйте случайную переменную А, вновь воспользовавшись функцией «=СЛЧИС». Она обладает точно такими же свойствами, как и X. Именно поэтому она пока что не может выступать моделью случайной ошибки. Дело в том, что М (А) = А — 0,5 * 0, что нарушает требование (10.6). Чтобы получить на основе А модель случайной ошибки, требуется так преобразовать А, чтобы ее среднее было нулевым. Для этого ее достаточно отцентрировать, вычтя из каждого значения среднее арифметическое: е = а, — а.
• 10. В ячейке F2 с помощью функции «=СРЗНАЧ» рассчитайте среднее арифметическое А.
• 11. Озаглавьте столбец G «Е — случайная ошибка». Рассчитайте в нем разности между значениями А и средним А, при этом не забудьте «закрепить» ячейку F2 знаками «$», как это показано на рис. 10.4.
• 12. В столбце Н введите функцию Y=B0+B1*X+E. Чтобы получить модель статистической связи, достаточно сложить функциональную часть (столбец Y=B0+B1*X) и случайную ошибку Е.

Рис. 10.4

13. Вернемся к исходным значениям параметров линейной связи ВО = 0 и В1 = 1 и построим диаграмму рассеивания по столбцам X и Y=B0+B1*X+E (см. рис. 10.5).

Рис. 10.5.

Итак, мы сконструировали компьютерную модель линейной статистической зависимости между двумя переменными. Сохраните этот файл пол названием «Модель линейной связи» — он неоднократно будет использоваться нами в дальнейшем.

Обратите особое внимание на то, как изменится содержательная интерпретация коэффициента р, в статистической модели по сравнению с функциональной. В последнем случае мы утверждали, например, что «с увеличением доли городского населения на 1% число членов аграрной партии сократится на 100 человек». В терминах статистической связи мы говорим, что «с увеличением доли городского населения на 1% число членов аграрной партии в среднем сократится на 100 человек». В остальном принципы интерпретации углового параметра те же.

Воспользуемся некоторыми дополнительными возможностями программы Excel. Наведите курсор на любую точку «облака» на диаграмме рассеивания (рис. 10.5) и щелкните левой кнопкой мыши. Часть точек на диаграмме выделятся. Не меняя положение курсора, нажмите на правую кнопку мыши. В появившемся меню выберите позицию «добавить линию тренда». Появится диалоговое окно (см. рис. 10.6).

По умолчанию, в верхней части окна тип линии тренда определен как линейный. Это именно то, что нам требуется, и здесь ничего менять не надо. В нижней части окна следует выставить флажок рядом с опцией «показывать уравнение на диаграмме». В результате получим диаграмму с линией регрессии и оценкой уравнения регрессии (см. рис. 10.7).

В вашем случае оцененное уравнение регрессии будет отличаться от того, что отображено на рис. 10.7, так как реализации случайных величин разные. Более того, уравнение на диаграмме будет меняться после каждого пересчета. В чем же дело? Ведь параметры модели определяли мы сами: Р₀ = 1, р, = 1, в целом модель имеет вид: К = 0 + х X + е. Почему же в оцененном уравнении ВО в точности не равняется нулю, а В1 в точности не равняется единице?

Здесь мы снова имеем дело с фундаментальным для статистики различием между истинными значениями параметров и их оценками. Если бы мы имели практическую возможность производить расчеты, но бесконечным выборкам.

Рис. 10.6.

Рис. 10.7.

и устранить влияние случайного фактора, эти оценки совпадали бы. Однако политический аналитик всегда работает с весьма ограниченными выборками, и фактор случайности неустраним. Оценки параметров регрессионной модели, как и оценки математического ожидания и дисперсии, представляют собой случайные величины, обладающие собственным распределением. Если оценка произведена правильно, а на статистическом языке это означает, что она обладает свойствами несмещенности, состоятельности и эффективности, параметры распределения оценок будут стремиться к истинным параметрам.

Понажимайте клавишу DEL, наведя курсор на любую свободную ячейку. Мы уже обратили внимание, что оценки параметров р₀ и р, будут меняться при каждом пересчете, но эти изменения будут подчиняться определенной закономерности. Так, значения оцененных параметров будут колебаться вокруг истинных значений, равных в нашем примере нулю и единице соответственно. Если достаточно долго выписывать оценки, получаемые при пересчете, а затем рассчитать их среднее арифметическое, мы получим значения, очень близкие к истинным. Это свидетельствует о несмещенности оценки. С увеличением числа наблюдений (например, со 100 в нашем упражнении до 500, а затем до 1000) дисперсия оценок будет сокращаться, они будут все более и более «кучно» ложиться вокруг истинных значений. Это — свидетельство состоятельности оценки.

Чтобы отличать «истинную» регрессионную модель от результата оценивания, мы будем использовать следующую формальную запись. Для «истинной» модели:

Для оценки:

Математически задача регрессионного анализа заключается в нахождении закономерной (функциональной) части уравнения (10.8):

Другими словами, надо найти оценки Ь₀ и по известным значениям X_t и Y_r