克服人机协同应用中的对抗攻击
机器学习
2023-08-28 v2 计算机视觉与模式识别
摘要
引入人类分析有可能对深度神经网络的鲁棒性产生积极影响，而在对抗机器学习文献中这一点相对未被探索。神经网络视觉解释图已被证明易受对抗攻击。为给图像分析员选择鲁棒的模型解释可视化以评估给定模型，尚需进一步研究。由于依赖对抗图像（包括解释图与鲁棒性度量），这些因素极大影响了人机协同（HITL）评估工具。我们认为人类视觉注意力模型或可提升人机图像分析系统的可解释性与鲁棒性。我们的挑战依然存在：在此对抗环境下，HITL 评估如何保持鲁棒？
引用
@article{arxiv.2306.05952,
title = {Overcoming Adversarial Attacks for Human-in-the-Loop Applications},
author = {Ryan McCoppin and Marla Kennedy and Platon Lukyanenko and Sean Kennedy},
journal= {arXiv preprint arXiv:2306.05952},
year = {2023}
}
备注
New Frontiers in Adversarial Machine Learning, ICML 2022