基于得分的方法对孤立分量与混合比例的盲视性
机器学习
2021-12-22 v3 机器学习
摘要
密度估计与近似贝叶斯推断等统计任务常涉及具有未知归一化常数的密度。基于得分的方法（包括得分匹配）因不受归一化常数影响而是流行技术。尽管这些方法享有理论保证，一个鲜为人知的事实是：当感兴趣的非归一化分布具有孤立分量时，它们会表现出实际的失效模式——无法发现孤立分量或识别分量间正确的混合比例。我们使用简单分布展示了这些发现，并给出解决这些问题的启发式尝试。我们希望在开发新算法与应用之际，引起理论研究者与实务者对这些问题的关注。
引用
@article{arxiv.2008.10087,
title = {Blindness of score-based methods to isolated components and mixing proportions},
author = {Li K. Wenliang and Heishiro Kanagawa},
journal= {arXiv preprint arXiv:2008.10087},
year = {2021}
}