成本信号受对抗操纵下的欺骗式强化学习
机器学习
2019-08-20 v3 人工智能
最优化与控制
摘要
本文研究成本信号遭受恶意伪造下的强化学习(RL),并引入攻击模型的定量框架以理解 RL 的脆弱性。聚焦于 -学习,我们证明 -学习算法在隐蔽攻击和成本信号有界伪造下收敛。我们刻画了伪造成本与 -因子以及学习智能体所学策略之间的关系,这为可行的攻防动作提供了基本极限。我们提出了关于成本的一个鲁棒区域,在此区域内 adversary 永远无法达成目标策略。我们给出了能误导智能体学习 adversary 偏好策略的伪造成本条件。提供了一个水库控制的数值案例研究以展示 RL 在基于学习的控制系统中的潜在危害并证实结果。
引用
@article{arxiv.1906.10571,
title = {Deceptive Reinforcement Learning Under Adversarial Manipulations on Cost Signals},
author = {Yunhan Huang and Quanyan Zhu},
journal= {arXiv preprint arXiv:1906.10571},
year = {2019}
}