AI 材料清单及其它内容：通过 AI 风险扫描 (AIRS) 框架系统化安全保障
密码学与安全
2025-11-18 v1 人工智能
机器学习
摘要
人工智能 (AI) 系统的安全保障在软件供应链安全、对抗机器学习和治理文档之间仍然不完整。现有的透明机制——包括模型卡、数据表和软件材料清单 (SBOM)——虽推进了源头信息报告，却很少提供可验证、机器可读的模型安全证据。本文介绍了 AI 风险扫描 (AIRS) 框架，这是一种基于威胁建模的、证据生成框架，旨在实现 AI 保障的可操作化。AIRS 框架通过三个渐进式试点研究——Smurf (AIBOM 模式设计)、OPAL (操作验证) 和 Pilot C (AIRS)——将 AI 文档从描述性披露转向可衡量、以证据为依据的验证。该框架将保障字段对齐至 MITRE ATLAS 对抗性机器学习生态系统，并自动生成捕获模型完整性、打包和序列化安全性、结构适配器以及运行时行为的结构化制品。目前，AIRS 框架仅面向大型语言模型 (LLM) 提供模型级保障，但可扩展至其他模态并覆盖系统级威胁（如应用层滥用、工具调用）。一个针对量化 GPT-OSS-20B 模型的原型演示，展示了在受控运行环境下执行安全加载器策略、分片哈希验证以及污染和后门探针的实际效果。与 SPDX 3.0 和 CycloneDX 1.6 的 SBOM 标准进行比较，发现其在身份和评估元数据方面存在一致性，但在表示 AI 特定保障字段方面存在关键缺口。因此，AIRS 框架通过将威胁建模与自动化、可审计的证据生成相结合，将 SBOM 实践扩展到 AI 领域，为标准化、可信赖且机器可验证的 AI 风险文档提供了原则性基础。
引用
@article{arxiv.2511.12668,
title = {AI Bill of Materials and Beyond: Systematizing Security Assurance through the AI Risk Scanning (AIRS) Framework},
author = {Samuel Nathanson and Alexander Lee and Catherine Chen Kieffer and Jared Junkin and Jessica Ye and Amir Saeed and Melanie Lockhart and Russ Fink and Elisha Peterson and Lanier Watkins},
journal= {arXiv preprint arXiv:2511.12668},
year = {2025}
}
备注
13 pages, 4 figures, 6 tables