马尔可夫决策过程控制通道攻击的可检测性与性能权衡
系统与控制
2021-09-16 v1 密码学与安全
机器学习
系统与控制
摘要
我们研究了针对马尔可夫决策过程（MDPs）控制通道设计最优隐蔽投毒攻击的问题。该研究受到近期研究界对应用于 MDPs 和强化学习（RL）方法的对抗性与投毒攻击兴趣的推动。已表明，由这些方法得到的策略易受扰动决策者观测的攻击。在此类攻击中，受监督学习中对抗样本启发，对抗扰动的幅度依据某种范数受限，期望该约束使攻击难以察觉。然而，此类约束并不提供任何可检测性保障，也未考虑底层马尔可夫过程的动态特性。本文提出一种基于信息论量的新攻击形式，其同时考虑最小化攻击可检测性与受控过程性能的目标。我们分析了攻击效率与其可检测性之间的权衡。最后通过示例与数值仿真说明了该权衡。
引用
@article{arxiv.2109.07171,
title = {Balancing detectability and performance of attacks on the control channel of Markov Decision Processes},
author = {Alessio Russo and Alexandre Proutiere},
journal= {arXiv preprint arXiv:2109.07171},
year = {2021}
}