heninghuang的个人博客分享 http://blog.sciencenet.cn/u/heninghuang

博文

为什么连续随机变量的贝叶斯定理可能是错误的?

已有 4300 次阅读 2020-10-29 11:41 |个人分类:统计推断与概率|系统分类:论文交流

在贝叶斯统计学中,如果未知参数是连续随机变量,未知参数的先验信息以先验分布来表征,而当前信息(测量数据)以似然函数来表征。则连续随机变量的贝叶斯定理的表达式为:

后验分布 ∝ 先验分布 × 似然函数                             (1)

如果没有先验信息,统计推断只能依赖于当前信息(测量数据),这时可以假定先验分布为均匀分布。则式(1)退化为:

后验分布 = 归一化的似然函数                                 (2)

显然式(2)是错误的,因为似然函数不是概率分布。但是贝叶斯统计学的支持者们通常不接受均匀分布,从而避免式(2)暴露出来的方法论的错误。

在本质上,式(1)是用“先验分布”来对“似然函数”进行“调制”的运算。然而笔者在现有文献资料中没有找到对这种“调制”运算有效性的严格证明。似乎式(1)在很大程度上是作为“公理”来接受和使用的。

笔者最近发现式(1)违反了“自洽运算原则” (the principle of self-consistent operation) 1】,并且根据“信息汇总定律”(the law of aggregation of information (LAI))和“贝叶斯-频率转换规则” (the frequentist-Bayesian transformation rule) 推导出连续随机变量的新的贝叶斯定理为:

后验分布 ∝ 先验分布 × 当前分布                (3)

当前分布可以利用当前信息(测量数据)得到。

式(3)遵循“自洽运算原则”。十分重要的是,式(3)也可以根据频率学派的采样理论和“概率分布合成定律” (the law of combination of distributions (LCD)) 推导出来2】。因此,贝叶斯统计推断与频率统计推断其实是可以统一的。

论文1】和【2】全文可以通过下面的链接下载 。

【1】Huang, H. (2020).  A new Bayesian method for measurement uncertainty analysis and the unification of frequentist and Bayesian inference, preprint, DOI: 10.13140/RG.2.2.35338.08646, available on ResearchGate: https://www.researchgate.net/publication/344552280_A_new_Bayesian_method_for_measurement_uncertainty_analysis_and_the_unification_of_frequentist_and_Bayesian_inference?channel=doi&linkId=5f7fd8a5458515b7cf71d5ec&showFulltext=true

【2】 Huang, H. (2020).  Two simple and practical frequentist methods for combining prior information with current measurement in uncertainty analysis. Cal Lab the International Journal of Metrology, 27(3), 22-32.  available on ResearchGate: https://www.researchgate.net/publication/344502279_Two_simple_and_practical_methods_for_combining_prior_information_with_current_measurement_in_uncertainty_analysis



https://wap.sciencenet.cn/blog-3427112-1256217.html

上一篇:一种替代马尔可夫链蒙特卡罗算法(MCMC)的数值方法
下一篇:如何将n个独立信息源的信息汇总?
收藏 IP: 104.63.253.*| 热度|

3 尤明庆 王安良 张鹰

发表评论 评论 (3 个评论)

数据加载中...

Archiver|手机版|科学网 ( 京ICP备07017567号-12 )

GMT+8, 2024-6-17 10:05

Powered by ScienceNet.cn

Copyright © 2007- 中国科学报社

返回顶部