针对基于模型的认证系统的可解释黑盒攻击
机器学习
2018-10-02 v1 人工智能
密码学与安全
机器学习
摘要
为人类和终端系统建立唯一身份一直是安全界一个活跃的研究问题，催生了创新的基于机器学习的认证技术。尽管此类技术提供了建立身份的自动化方法，但它们尚未针对以其核心机器学习技术为目标的复杂攻击进行验证。本文展示了模仿由主机指纹识别和生物特征认证系统生成的独特签名是可能的。我们通过围绕查询合成框架构建盲攻击并利用可解释人工智能（Explainable-AI, XAI）技术，暴露了底层机器学习分类模型的有效性不足。我们对最先进的人脸认证系统发起的攻击少于 130 次查询，对主机认证系统的攻击少于 100 次查询。我们考察了如何防御这些攻击并探讨了其局限性。XAI 为对手推断决策边界提供了有效手段，并为针对使用机器学习模型进行认证的系统构造攻击提供了新途径。
引用
@article{arxiv.1810.00024,
title = {Explainable Black-Box Attacks Against Model-based Authentication},
author = {Washington Garcia and Joseph I. Choi and Suman K. Adari and Somesh Jha and Kevin R. B. Butler},
journal= {arXiv preprint arXiv:1810.00024},
year = {2018}
}