ML-On-Rails：在软件系统中保护机器学习模型——一个案例研究
软件工程
2024-01-15 v1 人工智能
机器学习
摘要
机器学习（ML），尤其是随着大语言模型（LLM）的出现，已经显著改变了各个行业。然而，从ML模型原型到软件系统内生产使用的过渡面临着若干挑战。这些挑战主要围绕确保安全性、安全性和透明度，进而影响ML模型的整体鲁棒性和可信度。在本文中，我们介绍了ML-On-Rails，一个旨在保护ML模型、为不同ML任务建立定义良好的端点接口以及实现ML提供者和ML消费者（软件工程师）之间清晰通信的协议。ML-On-Rails通过整合检测能力来识别生产ML特有的独特挑战，从而增强了ML模型的鲁棒性。我们通过MoveReminder应用程序的真实案例研究评估了ML-On-Rails协议。通过这一评估，我们强调了在生产中保护ML模型的重要性。
引用
@article{arxiv.2401.06513,
title = {ML-On-Rails: Safeguarding Machine Learning Models in Software Systems A Case Study},
author = {Hala Abdelkader and Mohamed Abdelrazek and Scott Barnett and Jean-Guy Schneider and Priya Rani and Rajesh Vasa},
journal= {arXiv preprint arXiv:2401.06513},
year = {2024}
}