點估計
外觀
在統計學中,點估計(英語:point estimation)是指以樣本數據來估計總體參數, 估計結果使用一個點的數值表示「最佳估計值」,因此稱為點估計。由樣本數據估計總體分佈所含未知參數的真實值,所得到的值,稱為估計值。
點估計可以與區間估計形成對比:這種區間估計通常是在頻率論推斷的情況下的置信區間 ,或在貝氏推論的情況下的可信區間 。
估計法
[編輯]目前有多種估計法可供選擇,每種估計法都有不同屬性。
- 最小方差均值無偏估計 (MVUE),能夠使平方誤差損失函數的風險 (預期損失)最小化。
- 最佳線性無偏估計 (BLUE)
- 最小均方誤差 (MMSE)
- 中值無偏估計 ,能夠使絕對誤差損失函數的風險最小化
- 最大似然估計 (MLE)
- 矩估計和廣義矩估計
貝葉斯點估計
[編輯]貝氏推論通常基於後驗分布 。 許多貝氏估計量是後驗分布的集中趨勢統計量,例如,它的均值,中位數或模式:
- 後均值 ,最小化平方誤差損失函數的(後驗) 風險 (預期損失);在貝氏估計中,風險是根據高斯觀察到的後驗分布來定義的。 [1]
- 後驗中位數 ,最小化絕對值損失函數的後驗風險,如拉普拉斯所觀察到的。 [1] [2]
- 最大後驗 ( MAP ),其發現最大的後驗分布;對於統一的先驗概率,MAP估計量與最大似然估計一致;
MAP估計具有良好的漸近性質,對於許多複雜問題,最大似然估計也存在局限性。 對於最大似然估計符合一致性的常規問題,最大似然估計的最終結果與MAP估計一致。 [3] [4] [5] 根據瓦爾德定理,貝氏估計是可以接受的。 [4] [6]
最小消息長度 ( MML )點估計基於貝葉斯資訊理論 ,並不與後驗分布直接相關。
貝葉斯濾波器存在以下特殊情況:
點估計的屬性
[編輯]參見
[編輯]參考文獻
[編輯]- ^ 1.0 1.1 Dodge, Yadolah (編). Statistical data analysis based on the L1-norm and related methods: Papers from the First International Conference held at Neuchâtel, August 31–September 4, 1987. Amsterdam: North-Holland Publishing Co. 1987.
- ^ Jaynes, E.T. Probability theory : the logic of science 5. print. Cambridge [u.a.]: Cambridge Univ. Press. 2007: 172. ISBN 978-0-521-59271-0.
- ^ Ferguson, Thomas S. A course in large sample theory. Chapman & Hall. 1996. ISBN 0-412-04371-8.
- ^ 4.0 4.1 Le Cam, Lucien. Asymptotic methods in statistical decision theory. Springer-Verlag. 1986. ISBN 0-387-96307-3.
- ^ Ferguson, Thomas S. An inconsistent maximum likelihood estimate. Journal of the American Statistical Association. 1982, 77 (380): 831–834. JSTOR 2287314. doi:10.1080/01621459.1982.10477894.
- ^ Lehmann, E.L.; Casella, G. Theory of Point Estimation, 2nd ed. Springer. 1998. ISBN 0-387-98502-6.
擴展閱讀
[編輯]- Bickel, Peter J. & Doksum, Kjell A. Mathematical Statistics: Basic and Selected Topics I Second (updated printing 2007). Pearson Prentice-Hall. 2001.
- Lehmann, Erich. Theory of Point Estimation. 1983.
- Liese, Friedrich & Miescke, Klaus-J. Statistical Decision Theory: Estimation, Testing, and Selection. Springer. 2008.