BRNES：在多智能体机器人与自治系统中实现安全且隐私感知的经验共享
密码学与安全
2023-08-03 v1 人工智能
机器学习
多智能体系统
机器人学
摘要
尽管经验共享（ES）在顾问-受询者框架中加速了多智能体强化学习（MARL），但迄今为止将 ES 应用于去中心化多智能体系统的尝试都依赖于可信环境，并忽视了对抗性操纵与推断的可能性。然而，在真实环境中，一些伪装成顾问的拜占庭攻击者可能向受询者提供错误建议，并灾难性地降低整体学习性能。此外，伪装成受询者的推断攻击者可能发起多次查询以推断顾问的私有信息，使整个 ES 过程在隐私泄露方面存疑。为解决这些问题，我们提出一种新颖的 MARL 框架（BRNES），该框架在每一步为每个受询者启发式地选择动态邻域，并采用加权经验聚合技术以降低拜占庭攻击的影响。进一步地，为保护智能体私有信息免受对抗性推断攻击，我们在 ES 过程中引入局部差分隐私（LDP）诱导的噪声。实验表明，我们的框架在到达目标步数、所获奖励和到达目标时间等指标上优于现有最优方法。特别地，评估显示所提框架在对抗环境下比当前非隐私框架快 8.32 倍，比隐私框架快 1.41 倍。
引用
@article{arxiv.2308.01274,
title = {BRNES: Enabling Security and Privacy-aware Experience Sharing in Multiagent Robotic and Autonomous Systems},
author = {Md Tamjid Hossain and Hung Manh La and Shahriar Badsha and Anton Netchaev},
journal= {arXiv preprint arXiv:2308.01274},
year = {2023}
}
备注
8 pages, 6 figures, 3 tables, Accepted for publication in the proceeding of The 2023 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2023), Oct 01-05, 2023, Detroit, Michigan, USA