相關 (機率論)
![本頁使用了標題或全文手工轉換](http://upload.wikimedia.org/wikipedia/commons/thumb/c/cd/Zh_conversion_icon_m.svg/35px-Zh_conversion_icon_m.svg.png)
上級分類 | 關係 ![]() |
---|---|
所屬實體 | 統計學、機率論 ![]() |
話題方面 | 統計學 ![]() |
研究學科 | 統計學 ![]() |
Stack Exchange標籤 | https://stats.stackexchange.com/tags/correlation ![]() |
相關(Correlation),又稱為相關性、關聯,在機率論和統計學中,相關顯示了兩個或幾個隨機變數之間線性關係的強度和方向。在統計學中,相關的意義是:用來衡量兩個變量相對於其相互獨立的距離。在這個廣義的定義下,有許多根據數據特點用來衡量數據相關性而定義的係數,稱作 相關係數。通常使用相關係數來計量這些隨機變數協同變化的程度,當隨機變數間呈現同一方向的變化趨勢時稱為正相關,反之則稱為負相關。
![](http://upload.wikimedia.org/wikipedia/commons/thumb/d/d4/Correlation_examples2.svg/400px-Correlation_examples2.svg.png)
歷史
[編輯]英國生物學家和統計學家弗朗西斯·高爾頓首先提出「相關」這一概念,英國數學家卡爾·皮爾森在此基礎上做出了進一步發展。
各種相關係數
[編輯]對於不同測量尺度的變數,有不同的相關係數可用:
- 皮爾森相關係數(Pearson's r):衡量兩個等距尺度或等比尺度變數之相關性。是最常見的,也是學習統計學時第一個接觸的相關係數。
- 淨相關(英語:partial correlation):在模型中有多個自變數(或解釋變數)時,去除掉其他自變數的影響,只衡量特定一個自變數與因變數之間的相關性。自變數和因變數皆為連續變數。
- 相關比(英語:correlation ratio):衡量兩個連續變數之相關性。
- Gamma相關係數:衡量兩個次序尺度變數之相關性。
- 斯皮爾曼等級相關係數:衡量兩個次序尺度變數之相關性。
- 肯德爾等級相關係數:衡量兩個人為次序尺度變數(原始資料為等距尺度)之相關性。
- 肯德爾和諧係數:衡量兩個次序尺度變數之相關性。
- Phi相關係數(英語:Phi coefficient):衡量兩個真正名目尺度的二分變數之相關性。
- 列聯相關係數(英語:contingency coefficient):衡量兩個真正名目尺度變數之相關性。
- 四分相關(英語:tetrachoric correlation):衡量兩個人為名目尺度(原始資料為等距尺度)的二分變數之相關性。
- Kappa一致性係數(英語:K coefficient of agreement):衡量兩個名目尺度變數之相關性。
- 點二系列相關係數(英語:point-biserial correlation):X變數是真正名目尺度二分變數。Y變數是連續變數。
- 二系列相關係數(英語:biserial correlation):X變數是人為名目尺度二分變數。Y變數是連續變數。
皮爾森積差係數
[編輯]數學特徵
[編輯]- ,
因為,,同樣地,對於,可以寫成
- 。
當兩個變量的標準差都不為零,相關係數才有定義。從柯西-施瓦茨不等式可知,相關係數的絕對值不超過1。當兩個變量的線性關係增強時,相關係數趨於1或-1。當一個變量增加而另一變量也增加時,相關係數大於0。當一個變量的增加而另一變量減少時,相關係數小於0。當兩個變量獨立時,相關係數為0,但反之並不成立。這是因為相關係數僅僅反映了兩個變量之間是否線性相依。比如說,X是區間[-1,1]上的一個均勻分布的隨機變數。Y = X2.那麼Y是完全由X確定。因此Y和X不獨立,但相關係數為0。或者說他們是不相關的。當Y和X服從聯合常態分布時,其相互獨立和不相關是等價的。
當一個或兩個變量帶有測量誤差時,他們的相關性就受到削弱,這時,「反衰減」性(disattenuation)是一個更準確的係數。
幾何特徵
[編輯]對於居中的數據來說(何謂居中?也就是每個數據減去樣本均值,居中後它們的平均值就為0),相關係數可以看作是兩個隨機變數中得到的樣本集向量之間夾角的cosine函數。一些實際工作者更喜歡用非居中的相關係數(與皮爾森係數不相兼容)。看下面的例子中有一個比較。例如,假設五個國家的國民生產總值分別是1、2、3、5、8(單位10億美元),又假設這五個國家的貧困比例分別是11%、12%、13%、15%、18%。則我們現在有兩個有序的包含5個元素的向量x、y:x =(1, 2, 3, 5, 8)、 y =(0.11, 0.12, 0.13, 0.15, 0.18) 使用一般的方法來計算向量間夾角(參考數量積),未居中的相關性係數如下:
- 。
上面的數據實際上是故意選擇了一個完美的線性關係:y = 0.10 + 0.01 x。因此皮爾森相關係數應該就是1。把數據居中(x中數據減去E (x) = 3.8,y中數據減去E (y) = 0.138)後得到:x =(−2.8, −1.8, −0.8, 1.2, 4.2)、y =(−0.028, −0.018, −0.008, 0.012, 0.042),由此得到了預期結果:
- ,
統計學上的相關
[編輯]樣本相關係數
[編輯]對於樣本對,相關係數的計算過程可表示為:將每個變量都通過減去平均值、再除以校正標準差後轉化為標準單位,乘積的平均值,再經過貝塞爾校正即為相關係數[1]。
兩個變量的關係可以直觀地用散點圖表示,當其緊密地群聚於一條直線的周圍時,變量間存在強相關[2]。
一個散點圖可以用五個統計量來概括:所有值的平均數,所有值的校正標準差(即樣本標準差),所有值的平均數,所有值的校正標準差,相關係數。
其中:
那麼:
或寫成:
- ,
其中為貝塞爾校正。
參考文獻
[編輯]- ^ David Freedman; Robert Pisani, Roger Purves. Statistics. Norton & Company. 1998: 148. ISBN 9780393960433. 3 (英語).
- ^ David Freedman; Robert Pisani, Roger Purves. Statistics. Norton & Company. 1998: 156. ISBN 9780393960433. 3 (英語).
參見
[編輯]
|