召唤恶魔：探寻机器学习中的可利用漏洞
密码学与安全
2017-01-18 v1 机器学习
摘要
政府和企业越来越依赖数据分析与机器学习(ML)，以提升在消费者满意度、威胁情报、决策制定和产品质量等领域的竞争优势。然而，通过巧妙地篡改作为目标ML算法输入的数据子集，攻击者可以扰动结果并破坏ML技术的有效性。虽然先前在对抗机器学习领域的工作研究了输入操纵对正确ML算法的影响，但我们考虑利用ML实现中的漏洞。在本文中，我们刻画了ML程序的攻击面，并表明利用实现漏洞的恶意输入能够实现比经典对抗机器学习技术更强大的攻击。我们提出了一种称为引导模糊测试(steered fuzzing)的半自动化技术，用于探索该攻击面并发现机器学习程序中的可利用漏洞，以证明这一威胁的严重性。作为我们工作的结果，我们负责任地披露了五个漏洞，建立了三个新的CVE-ID，并揭示了众多机器学习系统中一种常见的不安全实践。最后，我们概述了若干研究方向以进一步理解和缓解这一威胁。
引用
@article{arxiv.1701.04739,
title = {Summoning Demons: The Pursuit of Exploitable Bugs in Machine Learning},
author = {Rock Stevens and Octavian Suciu and Andrew Ruef and Sanghyun Hong and Michael Hicks and Tudor Dumitraş},
journal= {arXiv preprint arXiv:1701.04739},
year = {2017}
}