多变量正态分布

多变量正态分布亦称为多变量高斯分布。它是单维正态分布向多维的推广。它同矩阵正态分布有紧密的联系。

一般形式

随机向量 $\ X = [X_1, \dots, X_N]^T$ 如果服从多变量正态分布，必须满足下面的三个等價条件：

• 任何线性组合$\ Y = a_1 X_1 + \cdots + a_N X_N$ 服从正态分布。

• 存在随机向量 $\ Z = [Z_1, \dots, Z_M]^T$（ 它的每个元素服从独立标准正态分布）, 向量 $\ \mu = [\mu_1, \dots, \mu_N]^T$ 及 $N \times M$ 矩阵 $\ A$ 满足 $\ X = A Z + \mu$.

• 存在 $\mu$ 和一个对称正定阵 $\ \Sigma$ 满足X的特征方程

$\phi_X\left(u;\mu,\Sigma\right) = \exp \left( i \mu^\top u - \frac{1}{2} u^\top \Sigma u \right).$

如果$\ \Sigma$是非奇异的，那么该分布可以由以下的PDF来描述：

$f_X(x_1, \dots, x_N) = \frac {1} {(2\pi)^{N/2}|\Sigma|^{1/2}} \exp \left( -\frac{1}{2} ( x - \mu)^\top \Sigma^{-1} (x - \mu) \right)$