概率电路中认知与偶然不确定性的处理
人工智能
2021-02-23 v1
摘要
当与 AI 系统协作时，我们需要评估何时信任其推荐。若我们在其可能出错的区域内误信它，可能发生灾难性故障，因此需要用于概率推理的贝叶斯方法，以根据训练数据确定概率中的置信度（或认知不确定性）。我们提出一种方法，克服处理大类概率推理（包括贝叶斯网络及若干概率逻辑实例）的大部分方法背后的独立性假设。我们提供从稀疏但完整的观测进行贝叶斯学习的算法，以及推导推断及其置信度的方法，在概率电路所提供的统一计算形式内操纵变量时保持对变量间依赖的追踪。此类电路的每个叶节点标以一个 beta 分布随机变量，为我们提供了表示不确定概率的优雅框架。我们相比最先进（state-of-the-art）方法（包括高度工程化的方法）实现了更好的认知不确定性估计，同时能处理一般电路，且相比使用点概率仅带来计算量的适度增加。
引用
@article{arxiv.2102.10865,
title = {Handling Epistemic and Aleatory Uncertainties in Probabilistic Circuits},
author = {Federico Cerutti and Lance M. Kaplan and Angelika Kimmig and Murat Sensoy},
journal= {arXiv preprint arXiv:2102.10865},
year = {2021}
}
备注
Under submission to MACH