Упражнения с пояснениями

Упражнение 5.1 (продолжение упражнения 4.1). Используя пакет Excel, по данным базы concrete оценим модель q_t = р_о + P_t/, + Р₂k_i + е-. Проверим значимость коэффициентов и адекватность регрессии в целом.

Решение. Чтобы оценить множественную регрессию в пакете Excel, необходимо выбрать все регрессоры одним массивом.

Нажав кнопку ОК, получим следующие результаты (табл. 5.1).

Таблица 5.1

Оценка модели множественной регрессии в Excel

Объясняющая сила данной регрессии на основе критерия R² выше по сравнению с парной моделью (R² возрос с 0,55 до 0,72, подробности см. в упражнении 3.1). Константа в множественной регрессии незначима, остальные два коэффициента наклона значимы даже на 1%-ном уровне значимости. Регрессия является адекватной, поскольку p-value для ?-статистики очень мало (6,35?-83 «0).

Иногда из модели исключают факторы, коэффициенты при которых незначимы, чтобы не терять эффективность оценок, но незначимую константу принято оставлять, чтобы избежать смещения оценок и иметь возможность интерпретировать R².

Упражнение 5.2. Используя статический пакет Stata, но данным базы concrete оценим уравнение q_i = р_о + р,/, + р₂k_t + е,. Дадим интерпретацию результатам. Проверим гипотезу о равенстве коэффициентов перед переменными, соответствующими труду и капиталу, на 5%-ном уровне значимости.

Решение. Чтобы оценить множественную модель в статистическом пакете Stata, необходимо добавить названия регрессоров после названия регрессанта:

II reg q 1 к

Получим

Коэффициенты при переменных / и k являются значимыми при любом разумном уровне значимости (поскольку р-value для проверки соответствующей гипотезы равны 0,000), а константа незначима при любом разумном уровне значимости (поскольку p-value равно 0,929).

Полученные оценки коэффициентов можно интерпретировать следующим образом: при увеличении количества рабочих на одного выпуск при прочих равных условиях возрастет на 533,66 тыс. руб.; если капитал возрастает на 1 тыс. руб., то выпуск увеличивается на 0,8403 тыс. руб.

Чтобы провести тест на равенство коэффициентов друг другу, необходимо использовать команду test после оценки регрессии:

|| test 1 = к В результате получим (1) 1 — к = о.

F (1, 296) = 120.36.

Prob > F = 0.0000.

Гипотеза о равенстве коэффициентов при переменных k и / отвергается при любом разумном уровне значимости, так как p-value теста равно 0, а значит, нулевая гипотеза отвергается на любом уровне значимости (что неудивительно).

Упражнение 5.3. Используя статистический пакет R, по данным concrete выполним следующее.

1. Оценим модель q_i = Р₀ + Р/, + Р₂^ + ^е*^со следующими ограничениями на вы;

* Г / > 50, борку; | (у > 2ооо.

• 2. Сравним оценки коэффициентов данной модели с оценками коэффициентов из модели без ограничений на выборку.
• 3. Оценим модель с другими ограничениями на выборку: | g^200Q
• 4. Сравним результаты оценки разных моделей.

Решение. Загрузив данные в статистический пакет R, оценим модель с ограничениями с помощью следующих команд:

d <- read. csv («concrete.csv», header = TRUE, sep = «;») reg 50 & q > 2000)) summary (reg).

Получим.

Call:

lm (formula = q — 1 + k, data = data, subset = 1 > 50 & q > 2000).

Residuals:

Min IQ Median 3Q Max.

— 1 213 611 -47 806 -2269 38 781 937 923.

Coefficients:

Estimate Std. Error t value Pr (>ItI).

• (Intercept) -3.040e+03 1.836e+04 -0.166 0.869
• 1 5.361e+02 6.091e+01 8.801 3.96e-16 ***

k 8.427e-01 7.197e-02 11.710 < 2e-16 ***.

Signif. codes: 0 '***' 0.001 '**' 0.01 0.05 0.1 ' ' 1.

Residual standard error: 180 200 on 221 degrees of freedom Multiple R-squared: 0.6854, Adjusted R-squared: 0.6826 F-statistic: 240.7 on 2 and 221 DF, p-value: < 2.2e-16.

Для задания ограничений мы воспользовались опцией subset. Теперь оценим модель без ограничений на выборку:

regl <- lm (q ~ 1 + k, data = d) summary (гegl).

Получим.

Call:

lm (formula = q ~ 1 + к, data = data).

Residuals:

Min IQ Median 3Q Max.

— 1 210 414 -36 442 -577 28 998 938 289.

Coefficients:

Estimate Std. Error t value Pr (>ItI).

• (Intercept) -1.086e+03 1.221e+04 -0.089 0.929
• 1 5.337e+02 4.853e+01 10.996 <2e-16 ***

к 8.403e-01 6.162e-02 13.637 <2e-16 ***.

Signif. codes: 0 '***' 0.001 0.01 0.05 0.1 «' 1.

Residual standard error: 156 100 on 296 degrees of freedom Multiple R-squared: 0.7216, Adjusted R-squared: 0.7198 F-statistic: 383.7 on 2 and 296 DF, p-value: < 2.2e-16.

Очевидно, что изменения незначительные (немного выше коэффициенты у / и k для модели в ограниченной выборке). Значимость коэффициентов нс изменилась. Теперь наложим более сильные ограничения на выборку:

reg2 150 & q > 2000)) summary (reg2).

Получим.

Call:

lm (formula = q ~ 1 + к, data = data, subset = 1 > 150 & q > 2000).

Residuals:

Min IQ Median 3Q Max.

— 1 286 368 -72 123 -11 962 63 548 920 708.

Coefficients:

Estimate Std. Error t (Intercept) -8.820e+03 1 5.217 e + 02.

к 8.909e-01.

value Pr (>|t|).

3.248e+04 -0.272 0.786.

***.

***.

• 8.483e+01 6.149 7.18e-09
• 8.951e-02 9.953 < 2e-16

Signif. codes:

• 0 '***• 0.001 «**' 0.01 0.05
• 0.1
• 1

Residual standard error: 216 400 on 145 degrees of freedom Multiple R-squared: 0.6467, Adjusted R-squared: 0.6418 F-statistic: 132.7 on 2 and 145 DF, p-value: < 2.2e-16.

Как легко можно заметить, коэффициенты при более сильном ограничении выборки изменились сильнее, хотя их значимость и знаки сохранились (но так бывает не всегда).

Упражнение 5.4 (зависимость длительности обучения индивида от его способностей и длительности обучения родителей). Используя данные из базы dougherty, выполним следующее.

• 1. Оценим параметры уравнения множественной регрессии S = р, + $₂ASVABC + + р₃SM + р₄SF + 8. Является ли оцененная регрессия адекватной? Значимы ли коэффициенты регрессии? Дадим интерпретацию полученным результатам.
• 2. Влияет ли на длительности обучения индивидуума длительность обучения его родителей (или только его способности)? Для ответа на этот вопрос проверим гипотезу об одновременном равенстве коэффициентов р_з и Р₄ нулю: Я₀: р_з = Р₄ = О при альтернативной гипотезе Я: р + Р₄ ^ 0.
• 3. В равной ли степени длительность обучения родителей влияет на длительность обучения индивида? Для ответа на этот вопрос проверим гипотезу о равенстве коэффициентов р_з и Р₄ в предыдущей модели: Я₀: р_з = Р₄ при альтернативной гипотезе Я: Рз ^ Р₄.
• 4. Значения переменной, характеризующей способности индивида, рассчитывались следующим образом: ASVABC = 0, 5ASVAB02 + 0, 25ASVAB03 + 0,25ASVAB04, где ASVAB02 — результаты теста по арифметике; ASVAB03 — результаты теста по правописанию; ASVAB04 — результаты теста по пониманию прочитанного материала. Правильно ли выбраны веса в показателе, характеризующем способности индивида? Для ответа на этот вопрос оценим параметры уравнения множественной регрессии 5 = р, + р./SVAB02 + рzASVABOy + P.ASVAB04 + р_Г)5 М + р₆5F+ 8 и проверим гипотезу Я₀: Р₂ = 2р_з = 2Р₄ при альтернативной гипотезе Я: гипотеза Я₍₎ не имеет места.

Решение. 1. После оценивания параметров уравнения регрессии 5= р, + р.^ASVABC + + Р₃5 М + р_aSF + 8 в статистическом пакете Stata с помощью команды получим следующие результаты:

|| reg S ASVABC SM SF.

Поскольку p-value для F-статистик и (Prob > F) меньше любого разумного уровня значимости (в таблице 0,0000), то эта регрессия адекватна.

Поскольку p-value при проверке гипотезы о значимости каждого коэффициента регрессии менее 0,01, то все факторы значимы при уровне значимости 1%. Интерпретировать полученные результаты можно следующим образом: длительность обучения индивидов не менее 4,4 года (оценка свободного члена), при улучшении интегрированного показателя, характеризующего способности индивида, на 1 балл длительность обучения индивида увеличивается на 0,12 года (оценка коэффициента при переменной ASVABC), при увеличении длительности обучения матери индивида на 1 год длительность обучения индивида увеличивается на 0,12 года (оценка коэффициента при переменной 5М), при увеличении длительности обучения отца индивида на 1 год длительность обучения индивида увеличивается на 0,15 года (оценка коэффициента при переменной SF).

2. Для проверки гипотезы о равенстве коэффициентов при переменных SM и SF одновременно нулю в командном окне следует набрать:

|| test SM SF

В окне результатов Stata будет выдано.

• (1) SM = о
• (2) SF = О

F (2, 536) = 27.86.

Prob > F = 0.0000.

Поскольку p-value для F-статистики (Prob > F) для проверки этой гипотезы меньше любого разумного уровня значимости (в таблице 0,0000), то нулевая гипотеза Н₀: рз = р₄ = 0 отвергается при любом разумном уровне значимости.

3. Для проверки гипотезы о равенстве коэффициентов при переменных SM и SF в командном окне следует набрать:

|| test (SM = SF)

В окне результатов будет выдано.

(1) SM — SF = 0 F (1, 536) = 0.19.

Prob > F = 0.6671.

Поскольку p-value для F-статистики (Prob > F) для проверки этой гипотезы достаточно велико (0,6671), нулевая гипотеза Н₀: р₃ = р₄ не отвергается при любом разумном уровне значимости.

4. Для оценки регрессии S = Р, + р₂ASVAB02 + р₃ASVAB03 + р_aASVAB04 + р₅SM + + p₆5F+ в в командном окне следует набрать команду В окне результатов Stata будет выдано.

I reg S ASVAB02 ASVAB03 ASVAB04 SM SF

|| test (ASVAB02 = 2 * ASVAB03) (ASVAB03 = ASVAB04)

Гипотеза о правильности выбора весов может быть проверена с помощью команды Статистическим пакетом Stata будет выдано.

(1) ASVAB02 — 2*ASVAB03 = 0 (2) ASVAB03 — ASVAB04 = 0 F (2, 534) = 0.02.

Prob > F = 0.9822.

Поскольку p-value для F-статистики (Prob > F) для проверки этой гипотезы достаточно велико (0,9822), то нулевая гипотеза о правильности выбора весов Я₀: р₂ = = 2р_з = 2р₄ нс отвергается при любом разумном уровне значимости.