迈向安全合规的人工智能：面向NLP模型生命周期管理的组织标准与协议
密码学与安全
2025-12-29 v1 计算与语言
计算机与社会
摘要
自然语言处理（NLP）系统越来越多地应用于医疗、金融和政府等敏感领域，在这些领域中，它们处理大量个人和受监管数据。然而，这些系统引入了与安全、隐私和法规遵从性相关的独特风险，而现有的人工智能治理框架并未完全解决这些风险。本文介绍了安全合规的NLP生命周期管理框架（SC-NLP-LMF），这是一个全面的六阶段模型，旨在确保NLP系统从开发到退役的安全运行。该框架基于对45篇同行评审和监管来源进行的系统性PRISMA审查而开发，与领先标准保持一致，包括NIST AI RMF、ISO/IEC 42001:2023、欧盟AI法案和MITRE ATLAS。它整合了用于偏差检测、隐私保护（差分隐私、联邦学习）、安全部署、可解释性和安全模型退役的既定方法。一个医疗案例研究说明了SC-NLP-LMF如何检测新兴术语漂移（例如，与COVID相关的语言）并指导合规的模型更新。该框架为组织提供了一个实用的、全生命周期的结构，用于在高风险环境中开发、部署和维护安全且负责任的NLP系统。
引用
@article{arxiv.2512.22060,
title = {Toward Secure and Compliant AI: Organizational Standards and Protocols for NLP Model Lifecycle Management},
author = {Sunil Arora and John Hastings},
journal= {arXiv preprint arXiv:2512.22060},
year = {2025}
}
备注
9 pages, 2 tables, 1 figure