基于可解释AI的进化群体毒化攻击诊断
人工智能
2025-05-05 v1
摘要
群集系统(例如多无人机网络)在监控、监视或灾难救援等合作任务中卓越地展现了其能力，在这些任务中， autonomous agents 做出分散决策，以高效和稳健的方式实现团队层次目标。不幸的是，野外的团队层次协同策略对数据毒化攻击极其脆弱，可能导致不准确的协调或对抗性行为。为此，我们贡献了一个框架，用可解释AI方法研究此类数据毒化攻击的影响。我们使用演化智能模型代理间的相互作用，其中 optimal coalition 战略性地涌现以执行协同任务。然后，通过严格的评估，群集模型被系统性地数据操纵攻击所中毒。我们展示了可解释AI方法的适用性，用于量化毒化对团队策略的影响，并提取特征表征，以实现诊断。我们的发现表明，当模型中毒超过10%时，可以识别出导致低效合作的非最优策略。
引用
@article{arxiv.2505.01181,
title = {Explainable AI Based Diagnosis of Poisoning Attacks in Evolutionary Swarms},
author = {Mehrdad Asadi and Roxana Rădulescu and Ann Nowé},
journal= {arXiv preprint arXiv:2505.01181},
year = {2025}
}
备注
To appear in short form in Genetic and Evolutionary Computation Conference (GECCO '25 Companion), 2025