针对机器学习辅助可视化的对抗性攻击

ML4VIS 研究领域探讨如何运用机器学习 (ML) 技术生成可视化，该领域正快速发展，具有巨大的社会影响力。然而，像任何采用 ML 流程的计算管道一样，ML4VIS 方法也容易受到各种 ML 专属对抗性攻击的威胁。这些攻击会操控可视化生成过程，导致分析者被误导，其判断能力受到损害。由于缺乏来自可视化和 ML 视角的综合考察，当前的 ML4VIS 文献在这一安全方面问题鲜有关注。为弥合这一差距，我们从对抗性攻击的角度，以可视化和 ML 视角为全局框架，探讨了 ML 辅助可视化的潜在漏洞。我们首先识别了在 ML 辅助可视化中独有的攻击面（即攻击入口点）。随后，我们举例说明了五种不同的对抗性攻击。这些例子凸显了在考虑攻击面和多种不同对手能力时可能出现的攻击范围。我们的结果表明，对手可以通过系统性地识别在 ML 推断中具有影响力的输入属性，从而诱发各种攻击，如创建任意且误导性的可视化。基于我们对攻击面特征和攻击示例的观察，我们强调，ML4VIS 社区迫切需要进行全面的数据安全性研究和防御机制研究。