不确定性感知可解释联邦学习

联邦学习（FL）是一种增强数据隐私保护的协作式机器学习范式。其隐私保护特性 complicate decision-making process explanations and evaluation of generated explanation reliability. 本文提出一种不确定性感知可解释联邦学习框架（UncertainXFL），以解决上述挑战。该框架在FL设置下生成决策过程的解释，并提供这些解释的不确定性信息。UncertainXFL是首个在FL上下文中显式提供解释不确定性评估的框架。在FL训练期间，解释信息由FL客户端生成后由服务器进行综合且无冲突的聚合。解释质量（包括不确定性得分和测试有效性）指导FL训练过程，通过在模型聚合时赋予最可靠解释的客户端更高权重来优先考虑。大量实验结果表明，UncertainXFL在模型准确率和解释准确率方面均优于当前集成不确定性信息的领先模型，分别提升了2.71%和1.77%。通过将不确定性信息整合并量化至解释过程中，UncertainXFL不仅清晰呈现解释及其不确定性，还能利用此不确定性指导FL训练，从而提升最终模型的鲁棒性与可靠性。