DDoD：针对人机协作团队的双重决策拒绝攻击
人机交互
2022-12-09 v1 人工智能
机器学习
摘要
人工智能（AI）系统已日益被用于使决策过程更快、更准确、更高效。然而，此类系统也持续面临被攻击的风险。虽然多数针对基于 AI 应用的攻击旨在操纵分类器或训练数据并改变 AI 模型输出，近期提出的针对 AI 模型的 Sponge Attacks 旨在通过消耗大量资源来阻碍分类器执行。本工作中，我们提出针对协作型人机团队的双重决策拒绝（DDoD）攻击。我们讨论此类攻击如何旨在耗尽计算与人类双重资源，并严重削弱决策能力。我们描述了针对人类与计算资源的 DDoD，并在一系列示例领域中呈现潜在风险场景。
引用
@article{arxiv.2212.03980,
title = {DDoD: Dual Denial of Decision Attacks on Human-AI Teams},
author = {Benjamin Tag and Niels van Berkel and Sunny Verma and Benjamin Zi Hao Zhao and Shlomo Berkovsky and Dali Kaafar and Vassilis Kostakos and Olga Ohrimenko},
journal= {arXiv preprint arXiv:2212.03980},
year = {2022}
}
备注
10 pages, 1 figure, IEEE Pervasive Computing, IEEE Special Issue on Human-Centered AI