面向大规模自主 AI 模型的风险感知、安全设计框架工程化
密码学与安全
2025-05-13 v1 人工智能
新兴技术
机器学习
多智能体系统
系统与控制
系统与控制
摘要
随着 AI 模型规模扩展至数十亿参数并具备日益自主的特性,确保其安全可靠运行势必要采用工程化的安全与保障框架。本文提出一种面向企业的、风险感知的、以安全设计为核心的方法,用于大规模自主 AI 系统,将标准化威胁指标、对抗强化技术和实时异常检测集成到开发生命周期的每个环节。我们详细描述了统一的管道:从设计阶段的风险评估和安全训练协议,到持续监控和自动化审计日志记录,以在对抗和运行压力下为模型行为提供可形式化的保证。案例研究涵盖国家安全、开源模型治理和工业自动化,显示出可衡量的漏洞减少和合规开销降低。最后,我们倡导跨行业合作:联合工程团队、标准组织和监管机构,以在面向下一代 AI 的韧性、端到端保障生态系统中制度化这些技术安全措施。
引用
@article{arxiv.2505.06409,
title = {Engineering Risk-Aware, Security-by-Design Frameworks for Assurance of Large-Scale Autonomous AI Models},
author = {Krti Tallam},
journal= {arXiv preprint arXiv:2505.06409},
year = {2025}
}