PVF（参数漏洞因子）：用于理解AI模型参数抗SDC攻击能力的可扩展度量指标
密码学与安全
2024-06-13 v3 人工智能
硬件体系结构
机器学习
摘要
AI系统的可靠性是AI技术成功部署和广泛采用的根本关切。然而，随着AI硬件系统复杂度和异构性的不断提升，这些系统日益容易受到硬件故障（例如静默数据损坏，SDC）的影响，这些故障可能导致模型参数被破坏。当此情况发生在AI推理/服务期间时，可能导致用户接收到错误或性能下降的模型输出，从而最终影响AI服务的质量和可靠性。鉴于不断恶化的威胁，亟需回答以下关键问题：AI模型对参数破坏有多么脆弱？不同组件（如模块、层）在参数破坏方面 exhibits 何种不同程度的脆弱性？为系统性地回答此问题，我们提出了一种新型定量度量指标——参数漏洞因子（PVF），灵感来自计算机体系结构社区的体系结构漏洞因子（AVF），旨在标准化AI模型对参数破坏脆弱性的量化。我们定义模型参数的PVF为：该特定模型参数发生破坏导致错误输出的概率。在本文中，我们展示了将PVF应用于三种任务/模型的多个用例情况——推荐系统（DLRM）、视觉分类（CNN）和文本分类（BERT），并对DLRM进行深入的脆弱性分析。PVF可以为AI硬件设计者提供关键见解，以在故障保护与性能/效率之间的权衡中发挥作用，例如将易受攻击的AI参数组件映射到受保护的硬件模块。PVF度量适用于任何AI模型，并有潜力帮助统一和标准化AI漏洞/韧性评估实践。
引用
@article{arxiv.2405.01741,
title = {PVF (Parameter Vulnerability Factor): A Scalable Metric for Understanding AI Vulnerability Against SDCs in Model Parameters},
author = {Xun Jiao and Fred Lin and Harish D. Dixit and Joel Coburn and Abhinav Pandey and Han Wang and Venkat Ramesh and Jianyu Huang and Wang Xu and Daniel Moore and Sriram Sankar},
journal= {arXiv preprint arXiv:2405.01741},
year = {2024}
}