面向可解释多方学习：一种对比式知识共享框架
机器学习
2021-05-26 v2 人工智能
摘要
多方学习为在法律与实际约束下利用分散数据训练联合模型提供了解决方案。然而，传统多方学习方法面临系统异构性、统计异构性与激励设计等障碍。如何应对这些挑战并进一步提升多方学习的效率与性能已成为亟待解决的问题。本文提出一种新颖的对比式多方学习框架，用于知识精炼与共享，并配有可问责的激励机制。由于现有的朴素模型参数平均方法与神经网络的学习范式相矛盾，我们模拟人类认知与沟通过程，将多方类比为多对一的知识共享问题。该方法能够以透明方式整合各客户端所获得的显式知识且不发生隐私泄露，并降低对数据分布与通信环境的依赖。如我们在多个真实世界数据集上的实验所示，所提方案在多种场景下实现了模型性能的显著提升。
引用
@article{arxiv.2104.06670,
title = {Towards Explainable Multi-Party Learning: A Contrastive Knowledge Sharing Framework},
author = {Yuan Gao and Jiawei Li and Maoguo Gong and Yu Xie and A. K. Qin},
journal= {arXiv preprint arXiv:2104.06670},
year = {2021}
}