如何通俗理解協(xié)方差、相關(guān)系數(shù)？

之前介紹了方差是用來刻畫數(shù)據(jù)波動性的統(tǒng)計量，那么協(xié)方差就是描述兩個變量之間的變動關(guān)系。通俗地理解為：兩個變量是同向變化？還是反向變化？同向或反向程度有多少？

X變大，Y也變大，說明兩個變量是同向變化的，這時協(xié)方差就是正的。X變大，Y變小，說明兩個變量是反向變化的，這時協(xié)方差就是負(fù)的。并且從數(shù)值大小來看，協(xié)方差的絕對值越大，則兩個變量同向或反向的程度也越大，即有較強(qiáng)的相關(guān)。

公式的計算很簡單，每個X與其均值之差乘以Y與其均值之差得到一個乘積，再將其都加起來求個均值即可。比如有兩個變量X,Y，觀察7個樣本，畫出他們的變化情況，并且很明顯是同向變化的。

可以發(fā)現(xiàn)每一時刻的值與的值的正負(fù)號相同（比如t1時刻，他們同為正，t2時刻他們同為負(fù)）：

于是當(dāng)他們同向變化時，的值與的值乘積為正。這樣，當(dāng)你把7個時刻的乘積加在一起，求平均后也就是正數(shù)了。如果反向運(yùn)動：

很明顯，的值與的值的正負(fù)號相反，于是其乘積就是負(fù)值，計算出來的協(xié)方差也就是負(fù)數(shù)了。上面說的兩種情況比較特殊，很多時候XY兩個變量的變動沒有規(guī)律，比如：

這種情況下某些的值與的值乘積為正，某些的值與的值乘積為負(fù)。加在一起后，其中的一些正負(fù)項就會抵消掉，最后平均得出的值就是協(xié)方差，通過協(xié)方差的數(shù)值大小，就可以判斷這兩個變量同向或反向的程度了。所以，在7個樣本中，與的乘積為正的越多，說明同向變化的次數(shù)越多，亦即同向程度越高，反之亦然。

總而言之：

若協(xié)方差為正，則X和Y同向變化；反之協(xié)方差為負(fù)，則反向變化；協(xié)方差絕對值越大表示同向或反向的程度越深。

其實方差也是一種特殊的協(xié)方差，只不過是X和X之間的協(xié)方差。

相關(guān)系數(shù)的公式為：其實就是用X、Y的協(xié)方差除以X和Y的標(biāo)準(zhǔn)差。所以相關(guān)系數(shù)可以看成剔除了兩個變量單位的影響、標(biāo)準(zhǔn)化后的特殊協(xié)方差。它可以反映兩個變量變化是同向還是反向的，同向為正，反向為負(fù)。并且它又是標(biāo)準(zhǔn)化后的協(xié)方差，則它出現(xiàn)最重要的目的來了，就是消除兩個變量單位的影響，使得不同變量的相關(guān)系數(shù)之間具有可比性。比如下面兩種情況，關(guān)注一下縱軸的刻度：

很容易可以看出兩種情況下X和Y都是同向變化的，并且它們變化的方式都大致相同，在特定的樣本點(diǎn)同為正或同為負(fù)，那么它們理應(yīng)具有相同的相關(guān)關(guān)系。于是可以計算一下他們的協(xié)方差：

第一種情況下：[(100-0)×(70-0)+(-100-0)×(-70-0)+(-200-0)×(-200-0)…]÷7≈15428.57

第二種情況下：[(0.01-0)×(70-0)+(-0.01-0)×(-70-0)+(-0.02-0)×(-200-0)…]÷7≈1.542857

協(xié)方差差了一萬倍，只能看出兩種情況都是正相關(guān)的，但是我們能說第一種情況就相關(guān)性更強(qiáng)嗎？在上面兩種情況中，雖然X和Y的變化方向都相同，但是每次變化的幅度不相同，主要原因是單位的不一致引起的。所以，為了能準(zhǔn)確比較兩個變量的相關(guān)程度，我們就要把變化幅度對協(xié)方差的影響中剔除掉，也就是要去掉單位的影響，于是就要使用相關(guān)系數(shù)。那么如何剔除變量變化幅度的影響呢？很自然的就應(yīng)該使用前面提到的方差和標(biāo)準(zhǔn)差了！相關(guān)系數(shù)是協(xié)方差除以標(biāo)準(zhǔn)差，當(dāng)X或Y的波動變大的時候，它們的協(xié)方差會變大，標(biāo)準(zhǔn)差也會變大，這樣相關(guān)系數(shù)的分子分母都變大，相互抵消，變小時也亦然。于是相關(guān)系數(shù)不像協(xié)方差一樣可以在實數(shù)域上取值，它只能在＋1到－1之間變化，具體為什么是+1和-1，可以自行Google柯西-斯瓦茨不等式。總之，對于兩個變量X、Y，

當(dāng)他們的相關(guān)系數(shù)為1時，說明兩個變量線性相關(guān)程度最大，兩個變量存在線性關(guān)系。隨著相關(guān)系數(shù)減小，兩個變量相關(guān)程度也變小。當(dāng)相關(guān)系數(shù)為0時，兩個變量的線性無關(guān)，但要注意，無關(guān)不一定獨(dú)立。當(dāng)相關(guān)系數(shù)繼續(xù)變小，小于0時，兩個變量開始出現(xiàn)反向相關(guān)。當(dāng)相關(guān)系數(shù)為－1時，說明兩個變量線性相關(guān)程度也最強(qiáng)，不過是相反的線性相關(guān)，反相變化。

讓我們再回到前面X和Y的例子，用相關(guān)系數(shù)來衡量相關(guān)程度：

X的標(biāo)準(zhǔn)差為：

Y的標(biāo)準(zhǔn)差為：

于是相關(guān)系數(shù)為：

說明第一種情況下，X和Y有極強(qiáng)的相關(guān)性，幾乎是線性相關(guān)。

X的標(biāo)準(zhǔn)差為：

Y的標(biāo)準(zhǔn)差為：

于是相關(guān)系數(shù)為：

在第二種情況下，X的標(biāo)準(zhǔn)差較第一種小了10000倍，即變化幅度小了，但是并不改變X和Y線性高度相關(guān)的事實。兩種情況的相關(guān)系數(shù)相等，X和Y具有相同的相關(guān)性，故而使用相關(guān)系數(shù)來衡量和比較相關(guān)性，要比協(xié)方差合適很多。在第二種情況下，X的標(biāo)準(zhǔn)差較第一種小了10000倍，即變化幅度小了，但是并不改變X和Y線性高度相關(guān)的事實。

兩種情況的相關(guān)系數(shù)相等，X和Y具有相同的相關(guān)性，故而使用相關(guān)系數(shù)來衡量和比較相關(guān)性，要比協(xié)方差合適很多。