联邦学习：从理论到实践

本书为构建和理解联邦学习 (FL) 系统提供实用入门。FL 使多个设备（如智能手机、传感器或本地计算机）能够协作训练机器学习 (ML) 模型，同时保持数据私有和本地。这是一个在数据不可或不应集中化（出于隐私、监管或技术原因）时的强大解决方案。本书面向希望学习如何设计可扩展、隐私保护 FL 系统的学生、工程师和研究人员。我们的主要关注点是个人化：使每个设备能够训练自己的模型，同时仍能从与之相关的设备中受益。这通过利用（与之相关的学习任务编码的）设备之间的相似性实现，后者由联邦学习网络 (FL network) 的加权边（或链接）表示。关键思想是将现实中的 FL 系统表示为设备网络，节点对应设备，边代表通信链接和数据相似性。为这些设备训练个人化模型可自然地表述为分布式优化问题。该优化问题称为广义总变异最小化 (GTVMin)，确保具有相似学习任务的设备学习相似的模型参数。我们的做法既在数学上严谨，又在实践中得到动机。虽然我们引入了一些来自优化理论和图基学习的先进思想，但我们力求保持本书的可及性。读者被引导逐步了解核心思想，配以直观解释。