AIBoMGen：为安全、透明且合规的模型训练生成AI物料清单
软件工程
2026-01-12 v1 人工智能
密码学与安全
摘要
复杂AI系统的快速采用已超出确保其透明性、安全性和法规遵从性工具的发展速度。本文引入了AI物料清单（AIBOM），作为软件物料清单（SBOM）的扩展，它是一个标准化、可验证的已训练AI模型及其环境的记录。我们的概念验证平台AIBoMGen通过在训练期间捕获数据集、模型元数据和环境细节，自动生成签名的AIBOM。该训练平台充当一个中立的第三方观察者和信任根，为每个作业强制创建可验证的AIBOM。该系统使用加密哈希、数字签名和in-toto证明来确保完整性，并防范诸如不诚实模型创建者篡改工件等威胁。我们的评估表明，AIBoMGen能够可靠地检测对所有工件的未授权修改，并能在性能开销可忽略不计的情况下生成AIBOM。这些结果突显了AIBoMGen作为构建安全和透明AI生态系统的基础步骤的潜力，有助于遵守如欧盟AI法案等监管框架。
引用
@article{arxiv.2601.05703,
title = {AIBoMGen: Generating an AI Bill of Materials for Secure, Transparent, and Compliant Model Training},
author = {Wiebe Vandendriessche and Jordi Thijsman and Laurens D'hooge and Bruno Volckaert and Merlijn Sebrechts},
journal= {arXiv preprint arXiv:2601.05703},
year = {2026}
}
备注
Accepted at ACM/IEEE CAIN 2026