The Wayback Machine - https://web.archive.org/web/20221025114551/https://baike.sogou.com/kexue/d10579.htm

点估计

编辑

在统计学中，点估计需要使用样本数据来计算单个值(称为点估计，因为它标识某个参数空间中的一个点)，该值将用作未知总体参数(例如总体平均值)的“最佳猜测”或“最佳估计”。由样本数据估计总体分布所含未知参数的真值，所得到的值，称为估计值。

点估计可以与区间估计进行对比：这种区间估计通常是在频率推断情况下的置信区间，或者在贝叶斯推断情况下的可信区间。

1 点估计器编辑

有各种各样的点估计量，每个都有不同的性质。

  • 最小方差均值无偏估计量（MVUE），将平方误差损失函数的风险(预期损失)最小化。
  • 最佳线性无偏估计量（BLUE）
  • 最小均方误差(MMSE)
  • 中值无偏估计量，将绝对误差损失函数的风险最小化
  • 最大似然估计量（MLE）
  • 矩量法和广义矩量法

2 贝叶斯点估计编辑

贝叶斯推断通常基于后验分布。许多贝叶斯点估计量是中心趋势的后验分布统计量，例如，它的平均值、中位数或众数:

  • 后验均值，最小化平方误差损失函数的(后)风险(预期损失)；在贝叶斯估计中，风险是根据高斯观察到的后验分布来定义的。[1]
  • 后验中位数，最小化绝对值损失函数的后验风险，如拉普拉斯所观察到的。[1][2]
  • 最大后验概率，它找到后验分布的最大值；对于均匀先验概率，最大后验概率估计与最大似然估计一致；

即使对于最大似然估计有许多困难的问题，最大后验概率估计也具有良好的渐近性质。对于正则问题，当最大似然估计一致时，最大似然估计最终与最大后验概率估计一致。根据沃尔德（Wald）定理，[3][4][5]贝叶斯估计是可容许的。[4][6]

最小消息长度(MML)点估计量基于贝叶斯信息论，与后验分布没有直接关系。

贝叶斯滤波器的特殊情况很重要：

  • 卡尔曼（Kalman）滤波器
  • 威纳（Wiener）滤波器

计算统计的几种方法与贝叶斯分析有着密切的联系：

  • 粒子过滤器
  • 马尔可夫链蒙特卡罗（MCMC）

3 点估计的性质编辑

  • 估计量的偏差
  • 克莱默-拉奥（Cramér–Rao）边界

4 笔记编辑

  1. Dodge, Yadolah, ed. (1987). Statistical data analysis based on the L1-norm and related methods: Papers from the First International Conference held at Neuchâtel, August 31–September 4, 1987. North-Holland Publishing.
  2. Jaynes, E. T. (2007). Probability Theory: The logic of science (5. print. ed.). Cambridge University Press. p. 172. ISBN 978-0-521-59271-0.
  3. Ferguson, Thomas S. (1996). A Course in Large Sample Theory. Chapman & Hall. ISBN 0-412-04371-8.
  4. Le Cam, Lucien (1986). Asymptotic Methods in Statistical Decision Theory. Springer-Verlag. ISBN 0-387-96307-3.
  5. Ferguson, Thomas S. (1982). "An inconsistent maximum likelihood estimate". Journal of the American Statistical Association. 77 (380): 831–834. doi:10.1080/01621459.1982.10477894. JSTOR 2287314.
  6. Lehmann, E. L.; Casella, G. (1998). Theory of Point Estimation (2nd ed.). Springer. ISBN 0-387-98502-6.

5 文献学编辑

  • Bickel, Peter J. & Doksum, Kjell A. (2001). Mathematical Statistics: Basic and Selected Topics. I (Second (updated printing 2007) ed.). Pearson Prentice-Hall.

  • Liese, Friedrich & Miescke, Klaus-J. (2008). Statistical Decision Theory: Estimation, Testing, and Selection. Springer.

参考文献

  • [1]

    ^Dodge, Yadolah, ed. (1987). Statistical data analysis based on the L1-norm and related methods: Papers from the First International Conference held at Neuchâtel, August 31–September 4, 1987. North-Holland Publishing..

  • [2]

    ^Jaynes, E. T. (2007). Probability Theory: The logic of science (5. print. ed.). Cambridge University Press. p. 172. ISBN 978-0-521-59271-0..

  • [3]

    ^Ferguson, Thomas S. (1996). A Course in Large Sample Theory. Chapman & Hall. ISBN 0-412-04371-8..

  • [4]

    ^Le Cam, Lucien (1986). Asymptotic Methods in Statistical Decision Theory. Springer-Verlag. ISBN 0-387-96307-3..

  • [5]

    ^Ferguson, Thomas S. (1982). "An inconsistent maximum likelihood estimate". Journal of the American Statistical Association. 77 (380): 831–834. doi:10.1080/01621459.1982.10477894. JSTOR 2287314..

  • [6]

    ^Lehmann, E. L.; Casella, G. (1998). Theory of Point Estimation (2nd ed.). Springer. ISBN 0-387-98502-6..

阅读 3959
版本记录

  • 暂无