在多元变量统计中,如果
为
维随机向量,
是一个
维对称矩阵,则随机变量
称为
的二次型。
二次型的期望可表示为,[1]
![{\displaystyle \operatorname {E} \left[\varepsilon ^{T}\Lambda \varepsilon \right]=\operatorname {tr} \left[\Lambda \Sigma \right]+\mu ^{T}\Lambda \mu }](https://wikimedia.org/api/rest_v1/media/math/render/svg/baad183f5bdae8ceea0ab20ebb804d7767187c36)
其中,
和
分别表示
的期望值 和方差-协方差矩阵, tr 为矩阵的迹。其结果仅仅取决于是否存在
和
;并且,
的正态性不是必要条件。
关于随机变量的二次型参考书籍 [2]
由于二次型是标量,所以二次型的迹就是它本身
。
由于矩阵的迹是其对角线元素之和(即矩阵元素线性组合的结果),因此服从期望的线性,有
![{\displaystyle \operatorname {tr} (\operatorname {E} \left[\varepsilon ^{T}\Lambda \varepsilon \right])=\operatorname {E} [\operatorname {tr} (\varepsilon ^{T}\Lambda \varepsilon )].}](https://wikimedia.org/api/rest_v1/media/math/render/svg/36b1fb11c70bcab0954784f7b5245845850c7f41)
利用迹的可交换性,
![{\displaystyle \operatorname {E} [\operatorname {tr} (\varepsilon ^{T}\Lambda \varepsilon )]=\operatorname {E} [\operatorname {tr} (\Lambda \varepsilon \varepsilon ^{T})].}](https://wikimedia.org/api/rest_v1/media/math/render/svg/75d12897773f98f644462e4aad2cbeee4a24e538)
由期望的线性可得
![{\displaystyle \operatorname {E} [\operatorname {tr} (\Lambda \varepsilon \varepsilon ^{T})]=\operatorname {tr} (\Lambda \operatorname {E} (\varepsilon \varepsilon ^{T})).}](https://wikimedia.org/api/rest_v1/media/math/render/svg/a125f6229a870a6ab67fbc927e076fb256a5d4d2)
由方差的标准属性可知:
![{\displaystyle \operatorname {tr} (\Lambda (\Sigma +\mu \mu ^{T})).}](https://wikimedia.org/api/rest_v1/media/math/render/svg/b01e8316b4c844ad98bc7f47fe25a1e981f5d26d)
再次应用迹的可交换性可得:
![{\displaystyle \operatorname {tr} (\Lambda \Sigma )+\operatorname {tr} (\Lambda \mu \mu ^{T})=\operatorname {tr} (\Lambda \Sigma )+\operatorname {tr} (\mu ^{T}\Lambda \mu )=\operatorname {tr} (\Lambda \Sigma )+\mu ^{T}\Lambda \mu .}](https://wikimedia.org/api/rest_v1/media/math/render/svg/cae23ee03a51533d2f3c0c9df57e18554d2701ef)
通常情况下,二次型的方差在很大程度上取决于
的分布。 然而,如果
服从多元正态分布,则二次型的方差的求解非常容易。假设
是一个对称矩阵,则有,
[3].
事实上,这可以推广到同一向量
的两个二次型的协方差计算中 (注意,
和
必须都是对称矩阵):
。
在某些参考资料中,在
为非对称矩阵情况下,也错误地得到了上述方差/协方差的结果。
在一般情况下,
可以通过下面方式得到:
![{\displaystyle \varepsilon ^{T}\Lambda ^{T}\varepsilon =\varepsilon ^{T}\Lambda \varepsilon }](https://wikimedia.org/api/rest_v1/media/math/render/svg/f1b5140767628d9d0fb1ac7df0470d04e977ea69)
因此
![{\displaystyle \varepsilon ^{T}{\tilde {\Lambda }}\varepsilon =\varepsilon ^{T}\left(\Lambda +\Lambda ^{T}\right)\varepsilon /2}](https://wikimedia.org/api/rest_v1/media/math/render/svg/7de565ba4da56c0cbdeac0b81bb7c0b078300b28)
但是,这是一个二次型的对称矩阵
,所以其均值和方差表达式相同,只是将
替换为
。
设有观测值的集合
和运算矩阵
,则
的残差平方和可表示为其二次型:
![{\displaystyle {\textrm {RSS}}=y^{T}(I-H)^{T}(I-H)y.}](https://wikimedia.org/api/rest_v1/media/math/render/svg/4b148b12ae61ee5763b506b708efabb0bc5950c3)
其中,矩阵
为对称和等幂的,其误差为协方差矩阵为
的高斯分布,
为自由度是
的卡方分布,参数为
,有
![{\displaystyle k=\operatorname {tr} \left[(I-H)^{T}(I-H)\right]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/96fc47f619bea6a72ba7b8b4bb0bc32bd436c4b6)
![{\displaystyle \lambda =\mu ^{T}(I-H)^{T}(I-H)\mu /2}](https://wikimedia.org/api/rest_v1/media/math/render/svg/3f44c081e467b5d8e488ec61c3641c6c7f93aed3)
如果
在估计
时没有偏差,则参数
为零且
服从中心卡方分布。
- ^ Douglas, Bates. Quadratic Forms of Random Variables (PDF). STAT 849 lectures. [August 21, 2011]. (原始内容存档 (PDF)于2016-03-04).
- ^ Mathai, A. M. & Provost, Serge B. Quadratic Forms in Random Variables. CRC Press. 1992: 424. ISBN 978-0824786915.
- ^ 1934-, Rencher, Alvin C.,. Linear models in statistics. Schaalje, G. Bruce., Wiley InterScience (Online service) 2nd ed. Hoboken, N.J.: Wiley-Interscience. 2008. ISBN 9780471754985. OCLC 212120778.