Ковариация и коэффициент корреляции

Пусть имеется двумерная случайная величина (Х, У), распределение которой известно, т. е. известна табл. 5.1 или совместная плотность вероятности ф (х, у). Тогда можно найти (см. параграф 5.4) математические ожидания М (Х) = а_х, М (У) = а_у и дисперсии 0(Х) =с². и ?)(У) =с² одномерных составляющих X и У. Однако математические ожидания и дисперсии случайных величин X и У недостаточно полно характеризуют двумерную случайную величину (X, У), так как не выражают степени зависимости ее составляющих X и У. Эту роль выполняют ковариация и коэффициент корреляции.

Определение. Ковариацией (или корреляционным моментом) К_ху случайных величин X и У называется математическое ожидание произведения отклонений этих величин от своих математических ожиданийт.е.

или

где

Из определения следует, что Кроме того,.

т.е. ковариация случайной величины с самой собой есть ее дисперсия.

Для дискретных случайных величин.

Для непрерывных случайных величин.

Ковариация двух случайных величин характеризует как степень зависимости случайных величин, так и их рассеяние вокруг центра двумерного распределения — точки (а_х, а_ч). Об этом, в частности, свидетельствуют свойства ковариации случайных величин.

• 1. Ковариация двух независимых случайных величин равна нулю.
• ? Для независимых случайных величии согласно равенству (5.30) ф (х, г/) = ср₁(х) ф₂(г/). Поэтому формула ковариации, например, (5.34) для непрерывных случайных величин примет вид

так как каждый из полученных интегралов есть центральный момент первого порядка, равный нулю. ?

2. Ковариация двух случайных величин равна математическому ожиданию их произведения минус произведение математических ожиданий, т. е.

или ^[1]

? По определению (5.32):

Учитывая, что математические ожидания М (Х) = а_х и М (У) = а_у — неслучайные величины, получим.

?

3. Ковариация двух случайных величин по абсолютной величине не превосходит произведения их средних квадратических отклонений, т. е.

? Возьмем очевидное неравенство:

(учтено, что о_х и с_у — неслучайные величины и дисперсии.

Неравенство (5.37) равносильно двойному неравенству -с_ха_у < < К_ху < а_л.а_/у, из которого следует доказываемое свойство (5.36). ?

Ковариация, как уже отмечено, характеризует не только степень зависимости двух случайных величин, но и их разброс, рассеяние. Кроме того, она — величина размерная, ее размерность определяется произведением размерностей случайных величин. Это затрудняет использование ковариации для оценки степени зависимости для различных случайных величин. Этих недостатков лишен коэффициент корреляции.

О п р е д е л е н и е. Коэффициентом корреляции¹ двух случайных величин называется отношение их ковариации к произведению средних квадратических отклонений этих величин'.

^[2]

Из определения следует, что р _х. = р_;/1 = р. Очевидно также, что коэффициент корреляции есть безразмерная величина.

Если ковариация К_ху представляет собой математическое ожидание произведения центрированных случайных величин Х° = X — а_х и У⁰ = У — а_у, т. е.

= (*° У⁰) — см. (5.32), то коэффициент корреляции р — математическое ожидание произведения нормированных случайных величини.

, т. е. р = М (X', У) — см. (5.38).

Если рассматривать случайные величины X и У как случайные векторы, их ковариацию — как аналог скалярного произведения двух векторов, средние квадратические отклонения — как аналоги длин этих векторов, то коэффициент корреляции представляет аналог косинуса угла между векторами.

Отметим свойства коэффициента корреляции.

1. Коэффициент корреляции принимает значения на отрезке [-1; 1], т. е.

? Из неравенства (5.37):

?

• 2. Если случайные величины независимы, то их коэффициент корреляции равен нулю, т. е. р = 0.
• ? р = 0, так как в этом случае К_лу = 0. ?

Случайные величины называются некоррелированными, если их коэффициент корреляции равен нулю. Таким образом, из независимости случайных величин следует их некоррелированность.

Обратное утверждение, вообще говоря, неверно: из некоррелированности двух случайных величин еще не следует их независимость (см. пример 5.6).

• 3. Если коэффициент корреляции двух случайных величии равен (по абсолютной величине) единице, то между этими случайными величинами существует линейная функциональная зависимость.
• ? Выше было получено, что

Если р = +1, то

Равенство математического ожидания неотрицательной случайной величины нулю означает, что сама случайная величина тождественно равна нулю.

при р = -1, т. е. X и У связаны линейной функциональной зависимостью. ?

Замечание. В случае нелинейной функциональной зависимости |р|<1; возможно даже, что р = 0. Так, например, коэффициент корреляции р между случайными величинами: X, равномерно распределенной на интервале [-1; 1] (с плотностью вероятности и У = Х² равен нулю, ибо по формуле (5.35) с учетом равенства (3.25)).

|> Пример 5.5. По данным примера 5.2 определить ковариацию и коэффициент корреляции случайных величин X и У.

Решение. В примере 5.2 были получены следующие законы распределения одномерных случайных величин:

Найдем математические ожидания и средние квадратические отклонения этих случайных величин:

Для нахождения математического ожидания М (ХУ) произведения случайных величин X и У можно было составить закон распределения произведения двух дискретных случайных величин (с вероятностями его значений из табл. 5.2), а затем по нему найти М (ХУ). Но делать это вовсе не обязательно. М{ХУ) можно найти непосредственно по табл. 5.2 распределения двумерной случайной величины (Х, У) по формуле.

где двойная сумма означает суммирование по всем пт клеткам таблицы (п — число строк, т — число столбцов):

Вычислим ковариацию К_хи по формуле (5.35):

Вычислим коэффициент корреляции р по формуле (5.38):

т.е. между случайными величинами X и У существует отрицательная линейная зависимость; следовательно, при увеличении (уменьшении) одной из случайных величин другая имеет некоторую тенденцию уменьшаться (увеличиваться). ?

|> Пример 5.6. По данным примера 5.3 определить: а) ковариацию и коэффициент корреляции случайных величин X и У; б) коррелированы или некоррелированы эти случайные величины.

Решение, а) Вначале по формулам (5.25), (5.26) найдем математические ожидания а_х=М (Х) и а_у = М (У).

Аналогично и_у=0 (то, что а_х = а_у = 0, очевидно из соображения симметрии распределения в круге, из которой следует, что центр его массы лежит в начале координат).

По формуле (5.34) ковариация

¹ Закон распределения (XV) имеет вид.

Соответственно коэффициент корреляции

б) Так как р = 0, то случайные величины X и У некоррелированы. В примере 5.4 установлено, что эти случайные величины зависимы; таким образом, наглядно убеждаемся в том, что из некоррелированности величин еще не вытекает их независимость. ?

С помощью ковариации можно дополнить и уточнить некоторые свойства математического ожидания и дисперсии (рассмотренные в гл. 3).

1. Математическое ожидание произведения двух случайных величин равно сумме произведения их математических ожиданий и ковариации этих случайных величин:

? Формула (5.40) следует непосредственно из формулы (5.35). ?

Если К_ху = 0, то

т.е. математическое ожидание произведения двух некоррелированных случайных величин равно произведению их математических ожиданийК

2. Дисперсия суммы двух случайных величин равна сумме их дисперсий плюс удвоенная ковариация этих случайных величин:

? Пусть X = X + К. По свойству математического ожидания а₂ = а_х + а_у Поэтому

По определению дисперсии.

?

Формула (5.42) может быть обобщена на любое число слагаемых:

где К_у — ковариации случайных величин Х_{ и Ху

Для некоррелированных (и, разумеется, для независимых) случайных величин

т.е. дисперсия суммы некоррелированных случайных величин равна сумме их дисперсий.^[3]

• [1] Ковариацию называют еще вторым смешанным центральным моментом случайныхвеличин X и У. Для ковариации X и У используются также обозначения соу (Х, У), аху.
• [2] Для коэффициента корреляции случайных величин в литературе используется такжеобозначение согг (Х, У).
• [3] В параграфе 3.3 свойство (5.41) сформулировано для независи м ы х случайных величин. Теперь выясняется, что в случае двух сомножителей достаточно менее жесткого требования некоррел и р о в, а н ноет и случайных величин. В случае произвольного числа сомножителей, как показывает анализ, требование независимости случайныхвеличин должно быть сохранено.