逆威沙特分佈

维基百科,自由的百科全书
跳转至: 导航搜索
逆威沙特分布
參數   m > p-1\! 自由度 (實數)
\mathbf{\Psi} > 0\, 尺度矩陣 (正定)
支撑集 \mathbf{W}\!是正定的
概率密度函數 \frac{\left|{\mathbf\Psi}\right|^{m/2}\left|B\right|^{-(m+p+1)/2}e^{-\mathrm{trace}({\mathbf\Psi}{\mathbf B}^{-1})/2} }{2^{mp/2}\Gamma_p(m/2)}
期望值 \frac{\mathbf{\Psi}}{m - p - 1}
眾數 \frac{\mathbf{\Psi}}{m + p + 1}[1]:406


逆威沙特分布,也叫反威沙特分布作是统计学中出现的一类概率分布函数,定义在实值正定矩阵上。在贝叶斯统计中,逆威沙特分布被用作为多变量正态分布的协方差矩阵的共轭先验分布。 如果一个正定矩阵 {\mathbf B}逆矩阵  \mathbf{B}^{-1} 遵从威沙特分布  W({\mathbf \Psi}^{-1}, m) 的话,那么就说矩阵 {\mathbf B} 遵从逆威沙特分布:

 \mathbf{B}\sim W^{-1}({\mathbf\Psi},m)

概率密度函数[编辑]

逆威沙特分布的概率密度函数是:


\frac{
\left|{\mathbf\Psi}\right|^{m/2}\left|\mathbf{B}\right|^{-(m+p+1)/2}e^{-\mathrm{trace}({\mathbf\Psi}{\mathbf B}^{-1})/2}
}{
2^{mp/2}\Gamma_p(m/2)},

其中 {\mathbf B}{\mathbf\Psi} 都是 p\times p正定矩阵,而Γp(·) 则是多变量伽马分布。函数

\mathrm{trace} \; : \quad \mathbf{M} \quad \rightarrow \quad \mathrm{trace}(\mathbf{M})

指的是函数。

相关定理[编辑]

威沙特分布矩阵之逆的概率分布[编辑]

设矩阵{\mathbf A}\sim W({\mathbf\Sigma},m) 并且 {\mathbf\Sigma}p \times p 的矩阵,那么 {\mathbf B}={\mathbf A}^{-1} 遵从逆威沙特分布:{\mathbf B}\sim W^{-1}({\mathbf\Sigma}^{-1},m)。它的概率密度函数是:


p(\mathbf{B}|\mathbf{\Psi},m) = 
\frac{
\left|{\mathbf\Psi}\right|^{m/2}\left|\mathbf{B}\right|^{-(m+p+1)/2}\exp\left({-\mathrm{tr}({\mathbf\Psi}{\mathbf B}^{-1})/2}\right)
}{
2^{mp/2}\Gamma_p(m/2)}

其中 \mathbf{\Psi} = \mathbf{\Sigma}^{-1},而 \Gamma_p(\cdot)多变量伽马分布[2]

威沙特分布矩阵之逆的边际与条件分布[编辑]

设矩阵 {\mathbf A}\sim W^{-1}({\mathbf\Psi},m) 遵从逆威沙特分布。并且假设矩阵  {\mathbf A}  {\mathbf\Psi} 都有相适合的分块矩阵表示方式:


    {\mathbf{A}} = \begin{bmatrix} \mathbf{A}_{11} & \mathbf{A}_{12} \\ \mathbf{A}_{21} & \mathbf{A}_{22} \end{bmatrix}, \;
    {\mathbf{\Psi}} = \begin{bmatrix} \mathbf{\Psi}_{11} & \mathbf{\Psi}_{12} \\ \mathbf{\Psi}_{21} & \mathbf{\Psi}_{22} \end{bmatrix}

其中子矩阵 {\mathbf A_{ij}}{\mathbf \Psi_{ij}}  p_{i}\times p_{j} 的矩阵,那么会有:

甲) {\mathbf A_{11} }  {\mathbf A}_{11}^{-1}{\mathbf A}_{12}  {\mathbf A}_{22\cdot 1} 相互独立,其中 {\mathbf A_{22\cdot 1}} = {\mathbf A}_{22} - {\mathbf A}_{21}{\mathbf A}_{11}^{-1}{\mathbf A}_{12} 是子矩阵  {\mathbf A_{11} }  {\mathbf A} 中的舒尔补

乙)  {\mathbf A_{11} } \sim W^{-1}({\mathbf \Psi_{11} }, m-p_{2}) ;

丙)  {\mathbf A}_{11}^{-1} {\mathbf A}_{12}| {\mathbf A}_{22\cdot 1} \sim MN_{p_{1}\times p_{2}}
( {\mathbf \Psi}_{11}^{-1} {\mathbf \Psi}_{12},  {\mathbf A}_{22\cdot 1} \otimes  {\mathbf \Psi}_{11}^{-1}) ,其中  MN_{p\times q}(\cdot,\cdot) 矩阵正态分布

丁) {\mathbf A}_{22\cdot 1} \sim  W^{-1}({\mathbf \Psi}_{22\cdot 1}, m)

共轭分布[编辑]

假设要求先验分布 {p(\mathbf{\Sigma})} 为逆威沙特分布 W^{-1}({\mathbf\Psi},m) 的协方差矩阵{\mathbf{\Sigma}}。如果观测值 \mathbf{X}=[\mathbf{x}_1,\ldots,\mathbf{x}_n] 是从互相独立的 p-变量正态分布 N(\mathbf{0},{\mathbf \Sigma}) 的随机变量得到的,那么条件分布 {p(\mathbf{\Sigma}|\mathbf{X})} 遵从的是逆威沙特分布:W^{-1}({\mathbf A}+{\mathbf\Psi},n+m)。其中 {\mathbf{A}}=\mathbf{X}\mathbf{X}^T 是样本协方差矩阵的n倍。

因此,逆威沙特矩阵是多变量正态分布的共轭先验分布。

矩相关特性[编辑]

期望值:[2]:85


E(\mathbf B) = \frac{\mathbf\Psi}{m-p-1}.

矩阵 \mathbf{B} 的每一个系数的方差:


\mbox{var}(b_{ij}) = \frac{(m-p+1)\psi_{ij}^2 + (m-p-1)\psi_{ii}\psi_{jj}}
{(m-p)(m-p-1)^2(m-p-3)}

对角系数的方差是在上式中令 i=j 得到,化简后变成:


\mbox{var}(b_{ii}) = \frac{2\psi_{ii}^2}{(m-p-1)^2(m-p-3)}.

相关分布[编辑]

当变量数目减到一个的时候,逆威沙特分布会变成特例:逆伽马分布。也就是说,当 p=1\alpha = m/2\beta = \mathbf{\Psi}/2 以及 x=\mathbf{B} 的时候,逆威沙特分布的概率密度函数是:

p(x|\alpha, \beta) = \frac{\beta^\alpha\, x^{-\alpha-1} \exp(-\beta/x)}{\Gamma_1(\alpha)}.


这正是逆伽马分布。其中 \Gamma_1(\cdot) 是通常的伽马函数


而逆威沙特分布也有推广,其中一个是正态逆威沙特分布

参见[编辑]

参考来源[编辑]

  1. ^ A. O'Hagan, and J. J. Forster. Kendall's Advanced Theory of Statistics: Bayesian Inference 2B 2. Arnold. 2004. ISBN 0-340-80752-0. 
  2. ^ 2.0 2.1 Kanti V. Mardia, J. T. Kent and J. M. Bibby. Multivariate Analysis. Academic Press. 1979. ISBN 0-12-471250-9.