协方差

在概率论和统计学中，协方差（Covariance）用于衡量两个随机变量的联合变化程度。而方差是协方差的一种特殊情況，即变量与自身的协方差。

期望值分别为$E(X)=\mu$与$E(Y)=\nu$的两个具有有限二阶矩的实数随机变量X 与Y 之间的协方差定义为：

$\operatorname {cov} (X,Y)=\operatorname {E} ((X-\mu )(Y-\nu ))=\operatorname {E} (X\cdot Y)-\mu \nu .$

协方差表示的是两个变量的总体的误差，这与只表示一个变量误差的方差不同。 如果两个变量的变化趋势一致，也就是说如果其中一个大于自身的期望值，另外一个也大于自身的期望值，那么两个变量之间的协方差就是正值。 如果两个变量的变化趋势相反，即其中一个大于自身的期望值，另外一个却小于自身的期望值，那么两个变量之间的协方差就是负值。

如果X 与Y 是统计独立的，那么二者之间的协方差就是0，这是因为

$E(X\cdot Y)=E(X)\cdot E(Y)=\mu \nu ,$

但是反过来并不成立，即如果X 与Y 的协方差为0，二者并不一定是统计独立的。

取决于协方差的相关性η

$\eta ={\dfrac {\operatorname {cov} (X,Y)}{\sqrt {\operatorname {var} (X)\cdot \operatorname {var} (Y)}}}\ ,$

更准确地说是线性相关性，是一个衡量线性独立的无量纲数，其取值在[－1, 1]之间。相关性η = 1时称为“完全线性相关”（相关性η = －1时称为“完全线性负相关”），此时将Y_i对X_i作Y-X 散点图，将得到一组精确排列在直线上的点；相关性数值介于－1到1之间时，其绝对值越接近1表明线性相关性越好，作散点图得到的点的排布越接近一条直线。

相关性为0（因而协方差也为0）的两个随机变量又被称为是不相关的，或者更准确地说叫作“线性无关”、“线性不相关”，这仅仅表明X 与Y 两随机变量之间没有线性相关性，并非表示它们之间一定没有任何内在的（非线性）函数关系，和前面所说的“X、Y二者并不一定是统计独立的”说法一致。

属性

如果X 与Y 是实数随机变量，a 与b 是常数，那么根据协方差的定义可以得到：

$\operatorname {cov} (X,X)=\operatorname {var} (X)$，

$\operatorname {cov} (X,Y)=\operatorname {cov} (Y,X)$，

$\operatorname {cov} (aX,bY)=ab\,\operatorname {cov} (X,Y)$，

对于随机变量序列X₁, ..., X_n与Y₁, ..., Y_m，有

$\operatorname {cov} \left(\sum _{i=1}^{n}{X_{i}},\sum _{j=1}^{m}{Y_{j}}\right)=\sum _{i=1}^{n}{\sum _{j=1}^{m}{\operatorname {cov} \left(X_{i},Y_{j}\right)}}$，

对于随机变量序列X₁, ..., X_n，有

$\operatorname {var} \left(\sum _{i=1}^{n}X_{i}\right)=\sum _{i=1}^{n}\operatorname {var} (X_{i})+2\sum _{i,j\,:\,i<j}\operatorname {cov} (X_{i},X_{j})$。

协方差矩阵

分别为m 与n 个标量元素的列向量随机变量X 与Y，二者对应的期望值分别为μ与ν，这两个变量之间的协方差定义为m×n 矩阵

$\operatorname {cov} (X,Y)=\operatorname {E} ((X-\mu )(Y-\nu )^{\top }).$

两个向量变量的协方差cov(X, Y)与cov(Y, X)互为转置矩阵。

协方差有时也称为是两个随机变量之间“线性独立性”的度量，但是这个含义与线性代数中严格的线性独立性线性独立不同。

参见

• 协方差矩阵