基于图表示的异构智能体网络模型投毒攻击
网络与互联网体系结构
2026-04-09 v3 计算与语言
摘要
Internet of Agents（IoA）构想了一个统一的、面向智能体的范式，使异构大型语言模型（LLM）智能体能够在大规模下相互连接并协作。 在此范式下，联邦微调（FFT）是实现关键使能器，允许分布式 LLM 智能体在不集中本地数据集的情况下共同训练一个智能全球 LLM。然而，FFT 支持的 IoA 系统仍然 vulnerable to model poisoning attacks（模型投毒攻击），其中对手方可上传恶意更新以降低聚合后的全局 LLM 性能。本文提出一种基于图表示的模型投毒（GRMP）攻击，利用对准的良性更新构建特征相关图，并采用变分图自编码器捕获结构依赖性以生成恶意更新。基于增广拉格朗日和亚梯度下降方法开发了新的攻击算法，以优化嵌入对抗目标的恶意更新，同时保持良性统计特性。实验结果表明，所提 GRMP 攻击可在不同 LLM 模型上显著降低准确率，同时保持与良性更新的统计一致性，从而规避现有防御机制，凸显了对该宏伟 IoA 概念的严重威胁。
引用
@article{arxiv.2511.07176,
title = {Graph Representation-based Model Poisoning on the Heterogeneous Internet of Agents},
author = {Hanlin Cai and Houtianfu Wang and Haofan Dong and Kai Li and Sai Zou and Ozgur B. Akan},
journal= {arXiv preprint arXiv:2511.07176},
year = {2026}
}
备注
This paper has been accepted by the IEEE 22nd International Wireless Communications & Mobile Computing Conference (IWCMC 2026, Shanghai, China)