中文

面向点击率预测联邦学习中模型更新聚合的在线元学习

信息检索 2022-09-02 v1 人工智能 密码学与安全 机器学习

摘要

在点击率(CTR)预测的联邦学习(FL)中,出于隐私保护用户数据不被共享。学习通过在客户端设备上本地训练并仅将模型变更传至服务器来完成。存在两个主要挑战:(i)客户端异构性,使得采用加权平均聚合客户端模型更新的 FL 算法进展缓慢且学习效果不理想;(ii)由于每次实验所需计算时间和资源巨大,难以通过试错法调优服务器学习率。为应对这些挑战,我们提出一种简单的在线元学习方法,以学习聚合模型更新的策略,该策略基于客户端属性自适应地权衡其重要性并调整更新的步长。我们在公开数据集上进行了广泛评估。我们的方法在收敛速度和最终学习效果质量上均显著优于最先进水平。

关键词

引用

@article{arxiv.2209.00629,
  title  = {Online Meta-Learning for Model Update Aggregation in Federated Learning for Click-Through Rate Prediction},
  author = {Xianghang Liu and Bartłomiej Twardowski and Tri Kurniawan Wijaya},
  journal= {arXiv preprint arXiv:2209.00629},
  year   = {2022}
}