分布式机器学习对迁移攻击的鲁棒性
机器学习
2024-12-19 v1 密码学与安全
摘要
尽管分布式机器学习在社区中引起了广泛关注，但先前的工作独立地考察了分布式机器学习在训练或推理阶段的实例。没有先前的工作考察过同时分布学习和推理过程所带来的组合鲁棒性。在这项工作中，我们首次探索了在训练数据、架构、调度器、优化器和其他模型参数上完全异构的分布式机器学习模型的鲁棒性。在理论和使用CIFAR10和FashionMNIST进行的广泛实验验证的支持下，我们表明，这种适当分布的机器学习实例在准确率-鲁棒性权衡方面实现了全面的改进，以抵御最先进的基于迁移的攻击，而当前的集成或联邦学习实例无法实现这种改进。例如，我们在CIFAR10上的实验表明，对于Common Weakness攻击（一种最强大的最先进基于迁移的攻击），我们的方法将鲁棒准确率提高了高达40%，而对干净任务准确率的影响极小。
引用
@article{arxiv.2412.14080,
title = {On the Robustness of Distributed Machine Learning against Transfer Attacks},
author = {Sébastien Andreina and Pascal Zimmer and Ghassan Karame},
journal= {arXiv preprint arXiv:2412.14080},
year = {2024}
}
备注
To appear in the Proceedings of the AAAI Conference on Artificial Intelligence (AAAI) 2025