多变量正态分布

機率 多变量 函數 Many samples from a multivariate (bivariate) Gaussian distribution centered at (1,3) with a standard deviation of 3 in roughly the (0.878, 0.478) direction (longer vector) and of 1 in the second direction (shorter vector, orthogonal to the longer vector).
累積分布函數
參數	μ ∈ Rk — location Σ ∈ Rk×k — covariance (nonnegative-definite matrix)
值域	x ∈ μ+span(Σ) ⊆ Rk
概率密度函数	$(2\pi)^{-\frac{k}{2}}|\boldsymbol\Sigma|^{-\frac{1}{2}}\, e^{ -\frac{1}{2}(\mathbf{x}-\boldsymbol\mu)'\boldsymbol\Sigma^{-1}(\mathbf{x}-\boldsymbol\mu) },$ exists only when Σ is positive-definite
累積分布函數	(no analytic expression)
标记	$\mathcal{N}(\boldsymbol\mu,\,\boldsymbol\Sigma)$
期望值	μ
中位數
眾數	μ
方差	Σ
偏態
峰態
熵值	$\frac{1}{2}\ln((2\pi e)^k |\boldsymbol\Sigma|)$
動差生成函數	$\exp\!\Big( \boldsymbol\mu'\mathbf{t} + \tfrac{1}{2} \mathbf{t}'\boldsymbol\Sigma \mathbf{t}\Big)$
特徵函數	$\exp\!\Big( i\boldsymbol\mu'\mathbf{t} - \tfrac{1}{2} \mathbf{t}'\boldsymbol\Sigma \mathbf{t}\Big)$

多变量正态分布亦称为多变量高斯分布。它是单维正态分布向多维的推广。它同矩阵正态分布有紧密的联系。

一般形式

随机向量 $\ X = [X_1, \dots, X_N]^T$ 如果服从多变量正态分布，必须满足下面的三个等價条件：

• 任何线性组合$\ Y = a_1 X_1 + \cdots + a_N X_N$ 服从正态分布。

• 存在随机向量 $\ Z = [Z_1, \dots, Z_M]^T$（ 它的每个元素服从独立标准正态分布）, 向量 $\ \mu = [\mu_1, \dots, \mu_N]^T$ 及 $N \times M$ 矩阵 $\ A$ 满足 $\ X = A Z + \mu$.

• 存在 $\mu$ 和一个对称正定阵 $\ \Sigma$ 满足X的特征方程

$\phi_X\left(u;\mu,\Sigma\right) = \exp \left( i \mu^\top u - \frac{1}{2} u^\top \Sigma u \right).$

如果$\ \Sigma$是非奇异的，那么该分布可以由以下的PDF来描述：

$f_X(x_1, \dots, x_N) = \frac {1} {(2\pi)^{N/2}|\Sigma|^{1/2}} \exp \left( -\frac{1}{2} ( x - \mu)^\top \Sigma^{-1} (x - \mu) \right)$