联邦训练证明:可问责的跨网络模型训练与推理
分布式、并行与集群计算
2022-04-15 v1 系统与控制
系统与控制
摘要
区块链已被广泛采用以设计可问责的联邦学习框架;然而,现有框架无法扩展到在多个独立区块链网络上进行分布式模型训练。对于在区块链上存储预训练模型,当前方法主要利用模型的结构特性进行嵌入,这种方式既不利于跨链交换,也不适合跨链验证。本文提出了一种用于跨链可验证模型训练的联邦学习架构框架,称为联邦训练证明(Proof of Federated Training, PoFT),这是首个使联邦训练过程跨越多个区块链网络上的客户端的方法。PoFT 不使用结构嵌入,而是利用模型参数在区块链上嵌入模型,然后应用两个区块链网络之间的可验证模型交换来实现跨网络模型训练。我们使用 Amazon EC2 实例在大规模设置上实现并测试了 PoFT,观察到跨链训练能显著提升模型效能。相比之下,PoFT 在链间模型交换上仅产生边际开销。
引用
@article{arxiv.2204.06919,
title = {Proof of Federated Training: Accountable Cross-Network Model Training and Inference},
author = {Sarthak Chakraborty and Sandip Chakraborty},
journal= {arXiv preprint arXiv:2204.06919},
year = {2022}
}
备注
Accepted at IEEE International Conference on Blockchain and Cryptocurrency (ICBC 2022)