联邦神经符号学习

神经符号学习（NSL）通过神经网络将复杂符号规则模式建模为潜变量分布，从而减少规则搜索空间并生成未见规则以提升下游任务性能。集中式 NSL 学习涉及直接从下游任务获取数据，这对联邦学习（FL）而言不可行。为应对此局限，我们将焦点从这种一对一交互的神经符号范式转向以潜变量作为 FL 通信媒介的一对多联邦神经符号学习框架（FedNSL）。基于我们对 NSL 理论的新颖重构，FedNSL 能够通过适用于 FL 设定下、对规则分布的简单而有效的 Kullback-Leibler（KL）散度约束，识别并解决规则分布异质性。它进一步从理论上调整变分期望最大化（V-EM）以缩减跨域的规则搜索空间。这是分布耦合双层优化首次被引入 FL。基于合成与真实数据的广泛实验表明，FedNSL 相较五种最先进方法具有显著优势。其在非平衡平均训练精度与未见平均测试精度上分别超越最佳基线 17% 与 29%。