威沙特分佈

威沙特

參數	$n>0\!$$n > 0\!$ 自由度 (實數) $\mathbf {V} >0\,$$\mathbf{V} > 0\,$ 尺度矩陣 (正定)
支撑集	$\mathbf {W} \!$$\mathbf{W}\!$是正定的
概率密度函数	${\frac {\left|\mathbf {W} \right|^{\frac {n-p-1}{2}}}{2^{\frac {np}{2}}\left|{\mathbf {V} }\right|^{\frac {n}{2}}\Gamma _{p}({\frac {n}{2}})}}\exp \left(-{\frac {1}{2}}{\rm {Tr}}({\mathbf {V} }^{-1}\mathbf {W} )\right)$$\frac{\left|\mathbf{W}\right|^\frac{n-p-1}{2}} {2^\frac{np}{2}\left|{\mathbf V}\right|^\frac{n}{2}\Gamma_p(\frac{n}{2})} \exp\left(-\frac{1}{2}{\rm Tr}({\mathbf V}^{-1}\mathbf{W})\right)$
期望值	$n\mathbf {V}$$n \mathbf{V}$
眾數	$(n-p-1)\mathbf {V} {\text{ for }}n\geq p+1$$(n-p-1)\mathbf{V}\text{ for }n \geq p+1$
特性函数	$\Theta \mapsto \left|{\mathbf {I} }-2i\,{\mathbf {\Theta } }{\mathbf {V} }\right|^{-n/2}$$\Theta \mapsto \left|{\mathbf I} - 2i\,{\mathbf\Theta}{\mathbf V}\right|^{-n/2}$

以統計學家约翰·威沙特為名的威沙特分佈是統計學上的一種半正定矩陣隨機分佈。這個分佈在多變量分析的共變異矩陣估計上相當重要。

定義

假設X為一n × p矩陣，其各行（row）來自同一均值向量為$\mathbf {0}$$\mathbf 0$的$p$$p$維多變量常態分佈且彼此獨立。

$X_{(i)}{=}(x_{i}^{1},\dots ,x_{i}^{p})^{T}\sim N_{p}(0,V),$$X_{(i)}{=}(x_i^1,\dots,x_i^p)^T\sim N_p(0,V),$

則威沙特分佈為$p\times p$$p\times p$散異矩陣

$S=X^{T}X=\sum _{i=1}^{n}X_{(i)}X_{(i)}^{T},\,\!$$S=X^T X = \sum_{i = 1}^{n} X_{(i)} X_{(i)}^T, \,\!$

的機率分佈。

$\mathbf {S}$$\mathbf S$有該機率分佈通常記為

$\mathbf {S} \sim W_{p}(\mathbf {V} ,n).$$\mathbf S\sim W_p(\mathbf V,n).$

其中正整數$n$$n$為自由度。有時亦記號為$W(\mathbf {V} ,p,n)$$W(\mathbf V, p, n)$。若$p=1$$p = 1$且$\mathbf {V} =1$$\mathbf V=1$則該分佈退化為一自由度為$n$$n$的單變量卡方分佈。

常見應用

威沙特分佈常用於多變量的概似比檢定，亦用於隨機矩陣的頻譜理論中。

機率密度函數

威沙特分佈具有下述的機率密度函數：

令'$\mathbf {W}$$\mathbf W$為一$p\times p$$p\times p$正定對稱隨機變數矩陣。令$\mathbf {V}$$\mathbf V$為一特定正定$p\times p$$p\times p$矩陣。

如此，若$n>p$$n > p$，則$\mathbf {W}$$\mathbf W$服從於一具自由度n的威沙特分佈且有機率度函數$f_{W}$$f_W$

$f_{\mathbf {W} }(w)={\frac {\left|w\right|^{(n-p-1)/2}\exp \left[-{\rm {trace}}({\mathbf {V} }^{-1}w/2)\right]}{2^{np/2}\left|{\mathbf {V} }\right|^{n/2}\Gamma _{p}(n/2)}}$$f_{\mathbf W}(w)= \frac{ \left|w\right|^{(n-p-1)/2} \exp\left[ - {\rm trace}({\mathbf V}^{-1}w/2 )\right] }{ 2^{np/2}\left|{\mathbf V}\right|^{n/2}\Gamma_p(n/2) }$

其中$\Gamma _{p}(\cdot )$$\Gamma_p(\cdot)$為多變量Gamma分佈，其定義為

$\Gamma _{p}(n/2)=\pi ^{p(p-1)/4}\Pi _{j=1}^{p}\Gamma \left[(n+1-j)/2\right].$$\Gamma_p(n/2)= \pi^{p(p-1)/4}\Pi_{j=1}^p \Gamma\left[ (n+1-j)/2\right].$

上述定義可推廣至任一實數$n>p-1$$n> p -1$

特徵函數

威沙特分佈的特徵函數為

$\Theta \mapsto \left|{\mathbf {I} }-2i\,{\mathbf {\Theta } }{\mathbf {V} }\right|^{-n/2}.$$\Theta \mapsto \left|{\mathbf I} - 2i\,{\mathbf\Theta}{\mathbf V}\right|^{-n/2}.$

也就是說

$\Theta \mapsto {\mathcal {E}}\left\{\mathrm {exp} \left[i\cdot \mathrm {trace} ({\mathbf {W} }{\mathbf {\Theta } })\right]\right\}=\left|{\mathbf {I} }-2i{\mathbf {\Theta } }{\mathbf {V} }\right|^{-n/2}$$\Theta \mapsto {\mathcal E}\left\{\mathrm{exp}\left[i\cdot\mathrm{trace}({\mathbf W}{\mathbf\Theta})\right]\right\} = \left|{\mathbf I} - 2i{\mathbf\Theta}{\mathbf V}\right|^{-n/2}$

其中${\mathcal {E}}(\cdot )$${\mathcal E}(\cdot)$為期望值

（這裡的$\Theta$$\Theta$及${\mathbf {I} }$${\mathbf I}$ 皆為與${\mathbf {V} }$${\mathbf V}$維度相同的矩陣。（${\mathbf {I} }$${\mathbf I}$ 為單位矩陣，而$i$$i$為－1的平方根）.

理論架構

若$\scriptstyle {\mathbf {W} }$$\scriptstyle {\mathbf W}$為一自由度為m，共變異矩陣為$\scriptstyle {\mathbf {V} }$$\scriptstyle {\mathbf V}$的威沙特分佈，記為—$\scriptstyle {\mathbf {W} }\sim {\mathbf {W} }_{p}({\mathbf {V} },m)$$\scriptstyle {\mathbf W}\sim{\mathbf W}_p({\mathbf V},m)$—其中$\scriptstyle {\mathbf {C} }$$\scriptstyle{\mathbf C}$為一$q\times p$$q\times p$的q秩矩陣，則

${\mathbf {C} }{\mathbf {W} }{\mathbf {C} '}\sim {\mathbf {W} }_{q}\left({\mathbf {C} }{\mathbf {V} }{\mathbf {C} '},m\right).$${\mathbf C}{\mathbf W}{\mathbf C'} \sim {\mathbf W}_q\left({\mathbf C}{\mathbf V}{\mathbf C'},m\right).$

推論1

若${\mathbf {z} }$${\mathbf z}$為一非負$p\times 1$$p\times 1$常數向量，則 ${\mathbf {z} '}{\mathbf {W} }{\mathbf {z} }\sim \sigma _{z}^{2}\chi _{m}^{2}$${\mathbf z'}{\mathbf W}{\mathbf z}\sim\sigma_z^2\chi_m^2$.

則在此情形下，$\chi _{m}^{2}$$\chi_m^2$為一卡方分佈且$\sigma _{z}^{2}={\mathbf {z} '}{\mathbf {V} }{\mathbf {z} }$$\sigma_z^2={\mathbf z'}{\mathbf V}{\mathbf z}$（因${\mathbf {V} }$${\mathbf V}$為正定，所以$\sigma _{z}^{2}$$\sigma_z^2$為一正常數）。

推論2

在${\mathbf {z} '}=(0,\ldots ,0,1,0,\ldots ,0)$${\mathbf z'}=(0,\ldots,0,1,0,\ldots,0)$ 的情形下（亦即第j個元素為1其他為0），推論1可導出

$w_{jj}\sim \sigma _{jj}\chi _{m}^{2}$$w_{jj}\sim\sigma_{jj}\chi^2_m$

為矩陣的每一個對對角元素的邊際分佈。

統計學家George Seber曾論證威沙特分佈並非多變量卡方分佈，這是因為非對角元素的邊際分佈並非卡方分佈，Seber傾向於將某某多變量分佈此一遣詞用於所有元素的邊際分佈皆相同的情形。

多變量常態分佈的估計

由於威沙特分佈可視為一多變量常態分佈其共變異矩陣的最大概似估計量（MLE）的的分佈，其衍自MLE的計算可為令人驚喜地簡約而優雅。 基於頻譜理論，可將一純量視為一$1\times 1$$1\times 1$矩陣的跡（trace）。請參考共變異矩陣的估計。

分佈抽樣

以下的演算法取材自 Smith & Hocking (1972)。一個來自自由度為n及共變異矩陣為$\mathbf {V}$$\mathbf V$的威沙特分佈的$p\times p$$p\times p$（其中$n\geq p$$n \geq p$）隨機樣本可以如下方式抽樣而得：

1. 生成一隨機$p\times p$$p\times p$下三角矩陣 ${\textbf {A}}$${\textbf A}$使得：
   • $a_{ii}=(\chi _{n-i+1}^{2})^{1/2}$$a_{ii}=(\chi^2_{n-i+1})^{1/2}$，意即 $a_{ii}$$a_{ii}$為一$\chi _{n-i+1}^{2}$$\chi^2_{n-i+1}$卡方分佈隨機樣本的平方根。
   • $a_{ij}$$a_{ij}$其中$j<i$$j<i$，為一$N_{1}(0,1)$$N_1(0,1)$常態分佈的隨機樣本。
2. 計算${\textbf {V}}={\textbf {L}}{\textbf {L}}^{T}$${\textbf V} = {\textbf L}{\textbf L}^T$的Cholesky分解。
3. 計算${\textbf {X}}={\textbf {L}}{\textbf {A}}{\textbf {A}}^{T}{\textbf {L}}^{T}$${\textbf X} = {\textbf L}{\textbf A}{\textbf A}^T{\textbf L}^T$。此時，${\textbf {X}}$${\textbf X}$ 為一$W_{p}({\textbf {V}},n)$$W_p({\textbf V},n)$的隨機樣本。

若${\textbf {V}}={\textbf {I}}$${\textbf V}={\textbf I}$，則因${\textbf {V}}={\textbf {I}}{\textbf {I}}^{T}$${\textbf V}={\textbf I}{\textbf I}^T$，可以直接以${\textbf {X}}={\textbf {A}}{\textbf {A}}^{T}$${\textbf X} = {\textbf A}{\textbf A}^T$進行抽樣。

參考條目

• 共變異矩陣的估計
• Hotelling的T平方分佈
• 逆威沙特分佈

參考資料

• Gelman, Andrew. Bayesian Data Analysis 2nd. Boca Raton, Fla.: Chapman & Hall. 2003: 582 [3 June 2015]. ISBN 158488388X. 
• Zanella, A.; Chiani, M.; Win, M.Z. On the marginal distribution of the eigenvalues of wishart matrices. IEEE Transactions on Communications. April 2009, 57 (4): 1050–1060. doi:10.1109/TCOMM.2009.04.070143. 
• Bishop, C. M. Pattern Recognition and Machine Learning. Springer. 2006: 693. 
• Pearson, Karl; Jeffery, G. B.; Elderton, Ethel M. On the Distribution of the First Product Moment-Coefficient, in Samples Drawn from an Indefinitely Large Normal Population. Biometrika (Biometrika Trust). December 1929, 21: 164–201. doi:10.2307/2332556. JSTOR 2332556. 
• Craig, Cecil C. On the Frequency Function of xy. Ann. Math. Statist. 1936, 7: 1–15. doi:10.1214/aoms/1177732541. 
• Peddada and Richards, Shyamal Das; Richards, Donald St. P. Proof of a Conjecture of M. L. Eaton on the Characteristic Function of the Wishart Distribution,. Annals of Probability. 1991, 19 (2): 868–874. doi:10.1214/aop/1176990455. 
• Gindikin, S.G. Invariant generalized functions in homogeneous domains,. Funct. Anal. Appl. 1975, 9 (1): 50–52. doi:10.1007/BF01078179. 
• Dwyer, Paul S. Some Applications of Matrix Derivatives in Multivariate Analysis. J. Amer. Statist. Assoc. 1967, 62 (318): 607–625. JSTOR 2283988.