对抗性交互攻击：误导人工智能误解人类意图
人工智能
2021-01-19 v1 密码学与安全
计算机视觉与模式识别
机器学习
摘要
在现代化人工智能系统完全融入我们的日常生活之前，理解人类与人工智能（AI）智能体的行为至关重要。本文表明，尽管基于深度学习的AI系统目前取得了巨大成功，但它们很容易被细微的对抗性噪声所欺骗，从而在交互场景中误解某一动作的意图。基于以骨架为基础的人体交互案例研究，我们提出了一种新颖的交互对抗攻击，并展示了基于DNN的交互模型如何被诱导以出乎意料的方式预测参与者的反应。从更广阔的视角看，我们所提攻击方法的适用范围并不局限于与骨架数据相关的问题，还可推广至任何涉及序列回归的问题类型。我们的研究揭示了AI与人类交互回路中的潜在风险，在将AI系统部署于安全关键型应用时需予以审慎应对。
引用
@article{arxiv.2101.06704,
title = {Adversarial Interaction Attack: Fooling AI to Misinterpret Human Intentions},
author = {Nodens Koren and Qiuhong Ke and Yisen Wang and James Bailey and Xingjun Ma},
journal= {arXiv preprint arXiv:2101.06704},
year = {2021}
}
备注
Preprint