面对未知分布迁移时的连续风险违规监控

部署在实际环境中的机器学习系统必须在动态且常常不可预测的分布迁移下运行。这对基于事先建立的系统风险统计安全保证的有效性构成挑战。常见的风险控制框架依赖于固定假设，缺乏持续监控部署可靠性的机制。本文提出了一套用于监控演化数据流中风险违规的通用框架。利用“博弈测试”范式，我们提出了一种顺序性假设检验程序，用于检测模型决策机制相关联的有界风险违规，同时控制虚警率。该方法在遇到迁移的本质方面依赖最少假设，具有广泛适用性。我们通过在多种迁移情形下监控异常检测和集合预测中的风险，展示了该方法有效性。