现实世界中的伦理测试：对抗性机器学习的物理测试评估
计算机与社会
2020-12-04 v1
摘要
本文批判性评估了针对涉及人类受试者的计算机视觉系统的各类对抗性机器学习（ML）攻击的物理域测试的充分性与代表性。许多部署此类攻击的论文自称是“真实世界”的。然而，尽管有此表述，我们发现所进行的物理或真实世界测试极为有限，很少提供关于测试受试者的细节，且常作为事后补充或演示来进行。缺乏代表性试验或测试的对抗性 ML 研究是一个伦理、科学以及健康/安全问题，可能造成实际危害。我们介绍该问题及我们的方法论，然后批评该领域论文所采用的物理域测试方法。接着我们探讨在对抗性 ML 中更具包容性的物理测试的各种障碍，并针对这些挑战提出改进此类测试的建议。
引用
@article{arxiv.2012.02048,
title = {Ethical Testing in the Real World: Evaluating Physical Testing of Adversarial Machine Learning},
author = {Kendra Albert and Maggie Delano and Jonathon Penney and Afsaneh Rigot and Ram Shankar Siva Kumar},
journal= {arXiv preprint arXiv:2012.02048},
year = {2020}
}
备注
Accepted to NeurIPS 2020 Workshop on Dataset Curation and Security; Also accepted at Navigating the Broader Impacts of AI Research Workshop. All authors contributed equally. The list of authors is arranged alphabetically