如攻击者所愿的导航？面向联邦学习下鲁棒具身智能体的构建
人工智能
2024-03-19 v4 计算与语言
密码学与安全
计算机视觉与模式识别
摘要
联邦具身智能体学习通过在训练期间将数据进行本地保留于各客户端（个体环境）来保护个体视觉环境的数据隐私。然而，由于在联邦学习下服务器无法访问本地数据，攻击者可能轻易毒化本地客户端的训练数据，从而在智能体中暗中植入后门。部署此类智能体会增加对人类潜在伤害的风险，因为攻击者可通过后门轻易按其所愿导航并控制智能体。面向拜占庭鲁棒的联邦具身智能体学习，本文研究视觉-语言导航（VLN）任务中的攻击与防御，该任务要求智能体遵循自然语言指令在室内环境导航。首先，我们引入一种简洁而有效的攻击策略“如所愿导航”（NAW），恶意客户端操纵本地轨迹数据以在全局模型中植入后门。在两个 VLN 数据集（R2R 和 RxR）上的结果表明，NAW 可无视语言指令轻松导航已部署的 VLN 智能体，且不影响其在正常测试集上的性能。随后，我们提出一种新的基于提示的聚合（PBA）来防御联邦 VLN 中的 NAW 攻击，其为服务器提供良性与恶意客户端间视觉-语言对齐差异的“提示”，从而在训练期间区分二者。我们验证了 PBA 方法在保护全局模型免受 NAW 攻击上的有效性，其在 R2R 和 RxR 的防御指标上大幅优于其他最优防御方法。
引用
@article{arxiv.2211.14769,
title = {Navigation as Attackers Wish? Towards Building Robust Embodied Agents under Federated Learning},
author = {Yunchao Zhang and Zonglin Di and Kaiwen Zhou and Cihang Xie and Xin Eric Wang},
journal= {arXiv preprint arXiv:2211.14769},
year = {2024}
}