在生产环境中构建领域特定的警戒模型
计算机与社会
2024-08-06 v1 人工智能
机器学习
摘要
生成式 AI 有望实现一系列期望的功能，彻底变革各类消费和企业垂直领域的工作流程。然而，将模型投入生产远不止是生成输出那么简单，它涉及确保模型在可靠、安全、性能方面，以及在特定领域内遵循操作政策。警戒模型因而成为必要，因为它们需要在生产环境中强制模型遵循合适的行为，尤其是在模型处于生产状态时。本文以教育领域为案例，由于该领域对内容适当性要求极为严格，以演示如何在生产环境中训练和部署警戒模型。具体而言，我们描述了为 K-12 教育平台构建生产级警戒模型的经验。我们首先阐述了将其部署到该敏感领域的需求。随后，我们描述了针对教育相关基准测试以及与一般安全方面相关的公开基准测试，对我们领域特定警戒模型进行训练和基准测试的结果，该模型在性能上超过了规模相似或更大的竞争性开放和封闭指令调优模型。最后，我们详细阐述了在硬件基础设施、服务层和语言模型推理优化等堆栈各层面所做的选择和优化；我们希望本文能为正在寻求基于生成式 AI 和大型语言模型创建生产级领域特定服务的其他实践者提供有益参考。
引用
@article{arxiv.2408.01452,
title = {Building a Domain-specific Guardrail Model in Production},
author = {Mohammad Niknazar and Paul V Haley and Latha Ramanan and Sang T. Truong and Yedendra Shrinivasan and Ayan Kumar Bhowmick and Prasenjit Dey and Ashish Jagmohan and Hema Maheshwari and Shom Ponoth and Robert Smith and Aditya Vempaty and Nick Haber and Sanmi Koyejo and Sharad Sundararajan},
journal= {arXiv preprint arXiv:2408.01452},
year = {2024}
}