在統計學中,平均平方誤差(英語:mean-square error、MSE)是對於無法觀察的參數
的一個估計函數T;其定義為:
即,它是「誤差」的平方的期望值。誤差就是估計值與被估計量的差。均方誤差滿足等式
![{\displaystyle \operatorname {MSE} (T)=\operatorname {var} (T)+(\operatorname {bias} (T))^{2}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/57d49f1e0275f312e20c5c697d862348dd026bec)
其中
![{\displaystyle \operatorname {bias} (T)=\operatorname {E} (T)-\theta ,}](https://wikimedia.org/api/rest_v1/media/math/render/svg/61b811b098a8b6dbd5268afb03c378481b5c9a39)
也就是說,偏誤
是估計函數的期望值與那個無法觀察的參數的差。
下邊是一個具體例子。假設
![{\displaystyle X_{1},\dots ,X_{n}\sim \operatorname {N} (\mu ,\sigma ^{2}),}](https://wikimedia.org/api/rest_v1/media/math/render/svg/1d4234462ce9b3797e383b8af87ac4952cd7b5f4)
即
是一組來自正態分佈的樣本。常用的兩個對σ2估計函數為:
和 ![{\displaystyle {\frac {1}{n-1}}\sum _{i=1}^{n}\left(X_{i}-{\overline {X}}\,\right)^{2}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/155e2a34f02a1cf0a48e1a2ab94c3a91a0a84222)
其中
![{\displaystyle {\overline {X}}=(X_{1}+\cdots +X_{n})/n}](https://wikimedia.org/api/rest_v1/media/math/render/svg/7a30f1b9c37a22f402e506bdb9c8ecaeca245192)
為樣本均值。
第一個估計函數為最大似然估計,它是有偏的,即偏誤不為零,但是它的方差比第二個小。而第二個估計函數是無偏的。較大的方差某種程度上補償了偏誤,因此第二個估計函數的均方誤差比第一個要大。
另外,這兩個估計函數的均方誤差都比下邊這個有偏估計函數大:
這個估計函數使得形如
(其中c是常數)的均方誤差最小。
外部連結[編輯]