Корреляционный анализ. 
Корреляционный и регрессионный анализ

Величины, характеризующие различные свойства объектов, могут быть независимыми или взаимосвязанными. Различают два вида зависимостей между величинами (факторами): функциональную и статистическую.

При функциональной зависимости двух величин значению одной из них обязательно соответствует одно или несколько точно определенных значений другой величины. Функциональная связь двух факторов возможна лишь при условии, что вторая величина зависит только от первой и не зависит ни от каких других величин. Функциональная связь одной величины с множеством других возможна, если эта величина зависит только от этого множества факторов. В реальных ситуациях существует бесконечно большое количество свойств самого объекта и внешней среды, влияющих друг на друга, поэтому такого рода связи не существуют, иначе говоря, функциональные связи являются математическими абстракциями. Их применение допустимо тогда, когда соответствующая величина в основном зависит от соответствующих факторов.

При исследовании многие параметры следует считать случайными, что исключает проявление однозначного соответствия значений. Воздействие общих факторов, наличие объективных закономерностей в поведении объектов приводят лишь к проявлению статистической зависимости. Статистической называют зависимость, при которой изменение одной из величин влечет изменение распределения других (другой), и эти другие величины принимают некоторые значения с определенными вероятностями. Функциональную зависимость в таком случае следует считать частным случаем статистической: значению одного фактора соответствуют значения других факторов с вероятностью, равной единице. Однако на практике такое рассмотрение функциональной связи применения не нашло.

Более важным частным случаем статистической зависимости является корреляционная зависимость, характеризующая взаимосвязь значений одних случайных величин со средним значением других, хотя в каждом отдельном случае любая взаимосвязанная величина может принимать различные значения.

Если же у взаимосвязанных величин вариацию имеет только одна переменная, а другая является детерминированной, то такую связь называют не корреляционной, а регрессионной. Например, при анализе скорости обмена с жесткими дисками можно оценивать регрессию этой характеристики на определенные модели, но не следует говорить о корреляции между моделью и скоростью.

При исследовании зависимости между одной величиной и такими характеристиками другой, как, например, моменты старших порядков (а не среднее значение), то эта связь будет называться статистической, а не корреляционной.

Корреляционная связь описывает следующие виды зависимостей:

причинную зависимость между значениями параметров. Примером такой зависимости является взаимосвязь пропускной способности канала передачи данных и соотношения сигнал/шум (на пропускную способность влияют и другие факторы — характер помех, амплитудно-частотные характеристики канала, способ кодирования сообщений и др.). Установить однозначную связь между конкретными значениями указанных параметров не удается. Но очевидно, что пропускная способность зависит от соотношения уровней сигнала и помех в канале. Иногда при этом причину и следствие особо не выделяют. В некоторых случаях такая корреляция является бессмысленной, например: если в качестве исходного фактора взять доходы разработчиков антивирусных программ, а за результат — количество вновь появляющихся вирусов, то можно сделать вывод, что разработчики антивирусов «стимулируют» создание вирусов;

" зависимость" между следствиями общей причины. Подобная зависимость характерна, в частности, для скорости и безошибочности набора текста оператором (указанные факторы зависят от квалификации оператора).

Корреляционная зависимость определяется различными параметрами, среди которых наибольшее распространение получили показатели, характеризующие взаимосвязь двух случайных величин (парные показатели): корреляционный момент, коэффициент корреляции.

Оценка корреляционного момента (коэффициента ковариации) двух вариант x_j и x_k вычисляется по исходной матрице Х

(2).

Этот показатель неудобен для практического применения, так как имеет размерность, равную произведению размерностей вариант, и по его величине трудно судить о зависимости параметров.

Коэффициент ковариации r_jk нормированных случайных величин называют коэффициентом корреляции, его оценка.

. (3).

Значение коэффициента корреляции лежит в пределах от -1 до +1. Если случайные величины U_j и U_k независимы, то коэффициент r_jk обязательно равен нулю, обратное утверждение неверно. Коэффициент r_jk характеризует значимость линейной связи между параметрами:

при r _jk =1 значения u_ij и u_ik полностью совпадают, т. е. значения параметров принимают одинаковые значения. Иначе говоря, имеет место функциональная зависимость: зная значение одного параметра, можно однозначно указать значение другого параметра;

при r _jk = - 1 величины u_ij и u_ik принимают противоположные значения. И в этом случае имеет место функциональная зависимость;

при r _jk = 0 величины u_ij и u_ik практически не связаны друг с другом линейным соотношением. Это не означает отсутствия каких-то других (например, нелинейных) связей между параметрами;

при | r _jk | > 0 и | r _jk | < 1 однозначной линейной связи величин u_ij и u_ik нет. И чем меньше абсолютная величина коэффициента корреляции, тем в меньшей степени по значениям одного параметра можно предсказать значение другого.

Используя понятие коэффициента корреляции, матрице ЭД можно поставить в соответствие квадратную матрицу оценок коэффициентов корреляции (корреляционную матрицу).

(4).

К числу характерных свойств корреляционной матрицы относят: симметричность относительно главной диагонали,? _jk=? _kj,; единичные значения элементов главной диагонали,? _kk=1 (? _kk соответствует дисперсии стандартизованного параметра u_k), .

Оценка коэффициента корреляции, вычисленная по ограниченной выборке, практически всегда отличается от нуля. Но из этого еще не следует, что коэффициент корреляции генеральной совокупности также отличен от нуля. Требуется оценить значимость выборочной величины коэффициента или, в соответствии с постановкой задач проверки статистических гипотез, проверить гипотезу о равенстве нулю коэффициента корреляции. Если гипотеза Н₀ о равенстве нулю коэффициента корреляции будет отвергнута, то выборочный коэффициент значим, а соответствующие величины связаны линейным соотношением. Если гипотеза Н₀ будет принята, то оценка коэффициента не значима, и величины линейно не связаны друг с другом (если по физическим соображениям факторы могут быть связаны, то лучше говорить о том, что по имеющимся ЭД эта взаимосвязь не установлена). Проверка гипотезы о значимости оценки коэффициента корреляции требует знания распределения этой случайной величины. Распределение величины? _ik изучено только для частного случая, когда случайные величины U_j и U_k распределены по нормальному закону.

В качестве критерия проверки нулевой гипотезы Н₀ применяют случайную величину. Если модуль коэффициента корреляции относительно далек от единицы, то величина t при справедливости нулевой гипотезы распределена по закону Стьюдента с n — 2 степенями свободы. Конкурирующая гипотеза Н₁ соответствует утверждению, что значение? _ik не равно нулю (больше или меньше нуля). Поэтому критическая область двусторонняя.

Проверка гипотезы Н₀ о равенстве нулю генерального коэффициента парной корреляции двумерной нормально распределенной случайной величины осуществляется в следующей последовательности:

вычисляется значение статистики t;

при уровне значимости? для двусторонней области определяется критическая точка распределения Стьюдента t_кр(n-2; ?), табл. П.4;

сравнивается значение статистики t с критическим значением t_кр(n-2; ?). Если t < t_кр (п-2; ?), то нет оснований отвергнуть нулевую гипотезу, иначе гипотеза Н₀ отвергается (коэффициент корреляции значим).

Когда модуль величины? _ik близок к единице, распределение? _ik отличается от распределения Стьюдента, так как значение |? _ik | ограничено справа единицей. В этом случае применяют преобразование y_ik=0,5ln[(1+|? _ik |)/(1-|? _ik |)]. Величина y_ik не имеет указанного ограничения, она при п > 10 распределена приблизительно нормально с центром? ₁(? _ik)=0,5ln[(1+|? _ik|)/(1-|? _ik|)]+0,5|? _ik|/(n-1) и дисперсией? ₂(? _ik)=? ²(? _ik)=1/(п-3). Если значение центрированной и нормированной величины (y_ik -? ₁(? _ik))/? (? _ik) превышает значение квантили уровня 1-? /2 нормального распределения стандартизованной величины, то нулевая гипотеза отвергается.

Таким образом, постановка задачи линейного корреляционного анализа формулируется в следующем виде.

Имеется матрица наблюдений вида (1).

Необходимо определить оценки коэффициентов корреляции для всех или только для заданных пар параметров и оценить их значимость. Незначимые оценки приравниваются к нулю.

Допущения:

выборка имеет достаточный объем. Понятие достаточного объема зависит от целей анализа, требуемой точности и надежности оценки коэффициентов корреляции, от количества факторов. Минимально допустимым считается объем, когда количество наблюдений не менее чем в 5−6 раз превосходит количество факторов;

выборки по каждому фактору являются однородными. Это допущение обеспечивает несмещенную оценку средних величин;

матрица наблюдений не содержит пропусков.

Если необходима проверка значимости оценки коэффициента корреляции, то требуется соблюдение дополнительного условия — распределение вариант должно подчиняться нормальному закону.

Задача анализа решается в несколько этапов:

проводится стандартизация исходной матрицы;

вычисляются парные оценки коэффициентов корреляции;

проверяется значимость оценок коэффициентов корреляции, незначимые оценки приравниваются к нулю. По результатам проверки делается вывод о наличии связей между вариантами (факторами).

Пример 1. Результаты наблюдений за характеристиками канала представлены в табл. 1.

Таблица 1.

Необходимо определить наличие линейных корреляционных связей между пропускной способностью и остальными факторами. Предполагается, что выборки по всем вариантам подчиняются нормальному закону. Проверку гипотезы о значимости оценок коэффициентов корреляции произвести с уровнем значимости ?, равным 0,1.

Решение. Стандартизация исходной матрицы начинается с вычисления выборочной средней? ₁, несмещенной оценки дисперсии? ₂ и среднеквадратического отклонения? по каждой варианте, табл. 2.

В результате перехода к величинам формируется стандартизованная матрица исходных данных, табл. 3.

Таблица 3.

Оценки коэффициентов корреляции (k = 2, 3, 4) представлены в табл. 4. В этой же таблице приведены значения статистик критерия Стьюдента для вычисленных оценок коэффициентов корреляции при п = 15.

Таблица 4.

Критическое значение t_кр (n-2; ?) = t_кр (13; 0,1) = 1,77. Статистика критерия больше критического значения только для? ₁₂. Это означает, что только для указанного коэффициента оценка значима (коэффициент корреляции генеральной совокупности не равен нулю), а остальные коэффициенты следует признать равными нулю.

Корреляционная зависимость не обязательно устанавливается только для двух величин, с ее помощью можно анализировать связи между несколькими вариантами (множественная корреляция). А кроме линейной существуют и другие виды корреляции.