面向多智能体后门攻击的干净增益低损失子空间压缩
机器学习
2022-09-21 v2 密码学与安全
多智能体系统
摘要
近期对多智能体后门攻击的探索揭示了反噬效应，这是一种针对后门攻击的自然防御机制，其中被植入后门的输入会被随机分类。这带来了一个副作用，即相对于干净标签的准确率较低，从而促使本文研究构建多智能体后门防御，以最大化相对于干净标签的准确率并最小化相对于毒化标签的准确率。基于智能体动态与低损失子空间构建，我们提出了三种防御方法，可提升多智能体后门鲁棒性。
引用
@article{arxiv.2203.03692,
title = {Low-Loss Subspace Compression for Clean Gains against Multi-Agent Backdoor Attacks},
author = {Siddhartha Datta and Nigel Shadbolt},
journal= {arXiv preprint arXiv:2203.03692},
year = {2022}
}