利用学习度量改进联邦学习
机器学习
2023-09-04 v1 人工智能
摘要
目前在联邦设置中,尚无学习方案利用新兴的可解释人工智能(XAI)研究,尤其是有助于判断模型学习效果新颖学习度量。这些新颖学习度量之一被称为“有效秩”(Effective Rank, ER),它衡量矩阵奇异值的香农熵,从而提供一种判断层映射优劣的度量。通过将联邦学习与有效秩这一学习度量结合,本工作将\textbf{(1)}给出首个联邦学习度量聚合方法,\textbf{(2)}表明有效秩非常适合联邦问题,其性能优于基线联邦平均(Federated Averaging)\cite{konevcny2016federated},并\textbf{(3)}开发一种依赖于有效秩的新型权重聚合方案。
引用
@article{arxiv.2309.00257,
title = {Leveraging Learning Metrics for Improved Federated Learning},
author = {Andre Fu},
journal= {arXiv preprint arXiv:2309.00257},
year = {2023}
}
备注
Bachelor's thesis