SymCircuit：基于熵正则化强化学习的可解析概率电路贝叶斯结构推断
机器学习
2026-03-24 v1 人工智能
机器学习
摘要
概率电路（PC）结构学习受制于做出不可逆、局部最优决策的贪心算法。我们提出SymCircuit，取代贪心搜索，采用通过熵正则化强化学习训练的学习生成策略。我们在PC领域实例化RL-作为-推断框架，表明最优策略是温和的贝叶斯后验，当正则化温度与数据集大小成反比时，可恢复确切后验。该策略实现为SymFormer，一种受语法约束的自回归Transformer，带有基于树的相对自注意力，确保每一步生成有效的电路。我们引入基于选项的REINFORCE，将梯度更新限制在结构决策上而非所有标记，实现信噪比（SNR）提升和NLTCS数据集上样本效率提升>10倍。我们在多层次不确定性分解（结构通过模型平均实现，参数通过delta方法实现，叶子通过共轭Dirichlet-Categorical传播实现）方面建立了基础，这基于PC输出的多线性多项式结构。在NLTCS上，SymCircuit缩小了与LearnSPN的93%差距；针对Plants（69个变量）的初步结果表明其可扩展性。
引用
@article{arxiv.2603.20392,
title = {SymCircuit: Bayesian Structure Inference for Tractable Probabilistic Circuits via Entropy-Regularized Reinforcement Learning},
author = {Y. Sungtaek Ju},
journal= {arXiv preprint arXiv:2603.20392},
year = {2026}
}
备注
17 pages