MLGuard：守护你的机器学习模型！
软件工程
2023-09-06 v1
摘要
机器学习（ML）被用于金融、医疗和交通等关键的强监管和高风险领域。这些ML应用的正确性对人类安全和经济利益十分重要。在改进ML测试与ML监测方面已取得进展。然而，这些方法未提供 i) 处理不确定性的前/后置条件，ii) 基于概率结果定义纠正动作，或 iii) 系统运行期间的持续验证。本文中，我们提出MLGuard，一种为ML应用指定契约的新方法。我们的方法包括 a) 定义前/后置条件、不变式和变更行为的ML契约规约，b) 用于确定契约违背概率的生成验证模型，以及 c) 用于强制执行契约并响应违背的ML包装器生成器。我们的工作旨在为构建ML应用并监测其安全性提供所需的顶层框架。
引用
@article{arxiv.2309.01379,
title = {MLGuard: Defend Your Machine Learning Model!},
author = {Sheng Wong and Scott Barnett and Jessica Rivera-Villicana and Anj Simmons and Hala Abdelkader and Jean-Guy Schneider and Rajesh Vasa},
journal= {arXiv preprint arXiv:2309.01379},
year = {2023}
}
备注
Accepted in SE4SafeML'23