谢钢
对贝叶斯统计学基本概念/定义的最浅显易懂的解释
2025-1-11 03:49
阅读:562

声明:这是一个我与ChatGPT-4 版本在2025年1月11日共同创作的关于贝叶斯统计的博客文章 。作为本博文的唯一人类作者,我承担所有与此相关的权利与责任。

托马斯.贝叶斯其人:

Picture1.jpg

如果我们从两个随机事件A与B的角度看贝叶斯定理:

gpt_1.png

上述贝叶斯定理的公式里涉及了三个基本的概率的定义:条件概率P(A|B)或 P{B|A),边际概率P(A)或 P(B) , 及联合概率P(A,B)或P(A and B)。 这三个基本的概率的概念可以通过以下这个列联表(contingency table)的例子来更直观的解释/描述。

bys.png

其中marginal probability=边际概率,  joint probability=联合概率,因此, 贝叶斯定理的核心概念就是 联合概率=条件概率 x 相应的边际概率。

我们也可以从贝叶斯统计学更一般的角度来看贝叶斯定理:

gpt_2.png

对贝叶斯统计学不熟悉的读者到这里可能会有点被搞糊涂了,因为以上的定义及描述/解释里,边际概率就是验前分布或称为先验分布(marginal probability distribution = prior probability distribution);而从贝叶斯统计学更一般的角度来讨论时,条件概率可以指证据D的后验概率,也可以指证据/数据D的似然值方程(likelihood function)。在我们之前的以两个随机事件为基本概率定义贝叶斯定理时并没有做这样的分别。

从贝叶斯统计学更一般的角度进一步我们就要提到Gibbs取样或译作Gibbs取样器(Gibbs sampler)这个核心概念了。

gpt_4.png

以下是对Gibbs取样或译作Gibbs取样器稍微详细一点的解释:

gpt_3.png

好了,我这个所谓的对贝叶斯统计学基本概念/定义的最浅显易懂的解释一下子就变得不那么浅显易懂了。

最后,我以对贝叶斯统计学里的概率的定义问题做个说明作为一个结束。我的观点是概率的基本定义是倾向度的概念(参阅https://blog.sciencenet.cn/blog-3503579-1321302.html)。因此,贝叶斯统计学里的概率的定义并不是所谓的主观信念的概率定义。不论是依据相对频率,还是依据个人的主观信念,都只是对概率的数值大小的一种量化的方法,概率的基本性质的定义就是倾向度(propensity definition of probability is its ontological definition)。只要在你的统计分析是以贝叶斯定理为基础的应用分析就是贝叶斯统计分析。因此,贝叶斯网络模型也是贝叶斯统计的一种特殊方法。

转载本文请联系原作者获取授权,同时请注明本文来自谢钢科学网博客。

链接地址:https://wap.sciencenet.cn/blog-3503579-1468299.html?mobile=1

收藏

分享到:

当前推荐数:13
推荐到博客首页
网友评论0 条评论
确定删除指定的回复吗?
确定删除本博文吗?