谁该负责对抗防御？
密码学与安全
2021-06-29 v1 计算机与社会
摘要
我们已看到旨在研究AI/ML系统中对抗攻击与防御的研究激增。尽管制定新攻击方法和设计新防御策略以增强鲁棒性至关重要，但同样必须认识到谁负责实施、验证并论证这些防御的必要性。具体而言，系统的哪些组件易受何种对抗攻击，以及认识对抗攻击严重性所需的专业知识。还有如何评估和应对对抗挑战，以便为不同应用推荐防御策略。本文开启了一场关于应由谁审查和实施对抗防御以及此类努力背后原因的讨论。
引用
@article{arxiv.2106.14152,
title = {Who is Responsible for Adversarial Defense?},
author = {Kishor Datta Gupta and Dipankar Dasgupta},
journal= {arXiv preprint arXiv:2106.14152},
year = {2021}
}
备注
Accepted for poster presentation in ICML 2021 workshop "Challenges in Deploying and monitoring Machine Learning Systems"