Neurosymbolic Learning 中的不平衡问题：特征化与缓解策略
机器学习
2025-12-18 v4 机器学习
摘要
我们研究了神经符号学习（neurosymbolic learning, NSL）中最流行的问题之一，即仅给定对向量 中元素应用符号组件 的结果即可学习神经分类器的问题。由于学习者无法获取 中元素的黄金标签。我们在理论和实践层面作出了多个贡献，以解决该领域尚未深入研究的“学习不平衡”问题，即对不同类别实例分类错误差异（即类别特定风险, class-specific risks）的特征化与缓解。我们的理论分析揭示了独特现象： 对学习不平衡具有巨大影响。这一结果与之前在监督学习和弱监督学习中仅研究数据不平衡下的学习不平衡的研究形成鲜明对比。在实践方面，我们引入了一种估计隐藏黄金标签边缘分布的方法。随后，我们提出算法通过将隐藏标签的边缘分布作为约束来在训练和测试时间缓解不平衡问题。我们通过强基线（包括来自 NSL 和长尾学习）进行实验，表明本 techniques 有效，性能提升可达14%。
引用
@article{arxiv.2407.10000,
title = {Imbalances in Neurosymbolic Learning: Characterization and Mitigating Strategies},
author = {Kaifu Wang and Efthymia Tsamoura and Dan Roth},
journal= {arXiv preprint arXiv:2407.10000},
year = {2025}
}