微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

使用 minibatch Gibbs 采样时如何纠正偏差

如何解决使用 minibatch Gibbs 采样时如何纠正偏差

在最近发表的 JASA 论文 https://www.tandfonline.com/doi/pdf/10.1080/01621459.2020.1782222?needAccess=true 中,作者提出了 minibatch Metropolis–Hastings 算法。这个想法是在计算接受率时添加一个校正项,以便通过使用小批量数据来校正引入的偏差。这个想法是基于这篇论文 https://arxiv.org/pdf/1707.09705.pdf。这两篇论文都证明了基于他们的算法,MCMC 链将近似收敛到调和后验。

如果我们将 Gibbs 抽样视为 Metropolis-Hastings 的一个特例,我正在考虑将这个想法应用于 Gibbs 抽样。问题是在这两篇论文中,他们只需要在对数似然项上添加一些修正,因为提议分布q不依赖于数据,但是在Gibbs采样中,我们可以将提议分布q视为完全条件分布,这取决于我们的数据。

所以我想知道如果我只使用小批量数据来计算 Gibbs 采样设置中的完整条件分布,是否可以添加一些修正。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。