对抗机器学习研究的法律风险
计算机与社会
2020-06-30 v1 密码学与安全
机器学习
摘要
对抗机器学习（Adversarial Machine Learning）正蓬勃发展，ML 研究者越来越多地以 Facebook、Tesla、Microsoft、IBM、Google 等使用的商业 ML 系统为目标来展示漏洞。在本文中，我们追问：“当对抗 ML 研究者攻击 ML 系统时，他们面临哪些潜在法律风险？”研究或测试任何运行系统的安全性都可能违反《计算机欺诈与滥用法》（CFAA）——美国创立黑客责任的主要联邦法规。我们主张对抗 ML 研究很可能并无不同。我们的分析表明，由于对 CFAA 的解释存在分歧，对抗 ML 攻击的某些方面，如模型反演、成员推断、模型窃取、重编程 ML 系统及投毒攻击，可能在某些司法辖区受制裁而在其他辖区不受惩罚。我们以对 Van Buren v. United States 案中 CFAA 适用当前不一致之处将如何由美国最高法院解决的预测分析作结，该上诉预计于 2021 年裁决。我们认为法院很可能采纳对 CFAA 的狭义解释，而这从长远看将带来更好的对抗 ML 安全结果。
引用
@article{arxiv.2006.16179,
title = {Legal Risks of Adversarial Machine Learning Research},
author = {Ram Shankar Siva Kumar and Jonathon Penney and Bruce Schneier and Kendra Albert},
journal= {arXiv preprint arXiv:2006.16179},
year = {2020}
}
备注
Accepted at ICML 2020 Workshop on Law & Machine Learning