|||
关于用于多层产生式模型的近似推理:
作者指出: 除了考虑产生每个训练样例的log概率,还应考虑推理过程的准
确度;如果其他都一样,我们希望近似推理方法尽可能精确;我们会选择一个
模型也许它产生数据的概率不是最高,但是却能有对隐表示的更加准确的推理。
因此很有意义的是当最大化观察数据的log概率时,对每个训练样例使用不精确
推理作为一个惩罚项。这也将导致一个新的目标函数,它更加容易最大化,并
且在产生训练数据的log概率上有一个变化的低边界(lower-bound)。
对于处理复杂产生式模型的推理问题的一个标准方法就是通过优化一个变化
边界来学习。
Archiver|手机版|科学网 ( 京ICP备07017567号-12 )
GMT+8, 2024-6-4 06:24
Powered by ScienceNet.cn
Copyright © 2007- 中国科学报社