一种隐私保护且可信任的多智能体学习框架
机器学习
2021-06-03 v1 人工智能
密码学与安全
摘要
分布式多智能体学习使智能体能够协作训练模型而无需共享其数据集。尽管该设定提供了一定程度的隐私保护，但已有研究表明，即便数据不直接共享，训练过程仍易遭受包括数据重构和模型反演攻击在内的隐私攻击。此外，在反演标签或随机数据上训练的恶意智能体可能任意削弱全局模型的精度。本文应对这些挑战，提出隐私保护且可信任的分布式学习（PT-DL），这是一种完全去中心化的框架，依赖差分隐私（Differential Privacy）以保证智能体数据的强隐私保护，并利用以太坊智能合约确保可信任性。本文表明，在恶意信任模型下，PT-DL 以高概率可抵御高达 50% 的合谋攻击，实验评估在多个分类任务上展示了所提模型作为隐私保护且可信任的分布式多智能体学习系统的优势。
引用
@article{arxiv.2106.01242,
title = {A Privacy-Preserving and Trustable Multi-agent Learning Framework},
author = {Anudit Nagar and Cuong Tran and Ferdinando Fioretto},
journal= {arXiv preprint arXiv:2106.01242},
year = {2021}
}
备注
This paper is an extended version of Reference [32]