操纵的艺术:安全博弈中多步操纵攻击的威胁
人工智能
2022-03-02 v2 计算机科学与博弈论
摘要
本文研究 Stackelberg 安全博弈中的多步操纵攻击问题,其中聪明的攻击者试图在多个时间步上策划其攻击,以误导防御者对攻击者行为的学习。这种攻击操纵最终影响防御者的巡逻策略,使之有利于攻击者。此前该方向的研究仅关注一次性博弈,其中防御者学习攻击者行为后仅一次性设计相应策略。相反,我们的工作考察攻击者操纵的长期影响,其中博弈双方当前的攻击与防御选择决定了防御者未来的学习与巡逻规划。本文有三个关键贡献。首先,我们引入一种新的多步操纵攻击博弈模型,刻画攻击者在整个时间范围内实施的序贯操纵攻击的影响。其次,我们提出一种新算法来计算攻击者的最优操纵攻击计划,解决了跨多时间步计算所涉及的多个关联优化组件的挑战。最后,我们给出了关于此类误导攻击影响的广泛实验结果,显示出攻击者的显著收益与防御者的损失。
引用
@article{arxiv.2202.13424,
title = {The Art of Manipulation: Threat of Multi-Step Manipulative Attacks in Security Games},
author = {Thanh H. Nguyen and Arunesh Sinha},
journal= {arXiv preprint arXiv:2202.13424},
year = {2022}
}