SoK：面向计算机安全应用的可解释机器学习
密码学与安全
2023-03-06 v2 计算机与社会
机器学习
摘要
可解释人工智能（XAI）旨在提升机器学习（ML）流水线的透明度。我们对日益增多（但碎片化）的、为防御性与进攻性网络安全任务开发并利用 XAI 方法的研究进行了系统化梳理。我们识别出 3 类网络安全利益相关者，即模型用户、设计者与攻击者，他们在 ML 流水线中利用 XAI 实现 4 个不同目标：1）XAI 赋能的用户辅助，2）XAI 赋能的模型验证，3）解释验证与鲁棒性，以及 4）解释的进攻性利用。我们对文献的分析表明，许多 XAI 应用在设计时很少考虑其如何融入分析师工作流——仅 14% 的案例开展了用于解释评估的用户研究。安全文献有时也未能厘清各利益相关者的角色，例如向模型用户和设计者提供解释的同时又将其暴露给攻击者。此外，模型设计者的角色在安全文献中被尤其弱化。为此，我们为模型设计者提供了一个示范性教程，展示 XAI 如何助力模型验证。我们还讨论了“设计即可解释”在部分场景下可能是更优替代方案。该系统化梳理与教程使我们得以挑战若干既有假设，并提出可塑造网络安全领域 XAI 研究未来的开放问题。
引用
@article{arxiv.2208.10605,
title = {SoK: Explainable Machine Learning for Computer Security Applications},
author = {Azqa Nadeem and Daniël Vos and Clinton Cao and Luca Pajola and Simon Dieck and Robert Baumgartner and Sicco Verwer},
journal= {arXiv preprint arXiv:2208.10605},
year = {2023}
}
备注
13 pages. Accepted at Euro S&P