集成不确定性度量以提升黑盒分类器的安全性
机器学习
2023-08-24 v1 人工智能
软件工程
摘要
执行分类任务的机器学习（ML）算法可能预测错误类别，即发生误分类。众所周知，误分类可能对所属系统产生连锁影响，并可能导致严重故障。本文提出 SPROUT（Safety wraPper thROugh ensembles of UncertainTy measures，基于不确定性度量集成的安全包装器），其通过对黑盒分类器的输入与输出计算不确定性度量来怀疑误分类。若检测到误分类，SPROUT 会阻断分类器输出向所属系统的传播。其对安全性的结果是，SPROUT 将不稳定输出（误分类）转化为数据遗漏故障，而后者可在系统层面轻松处理。SPROUT 适用范围广，可适配二分类与多分类任务，涵盖图像与表格数据集。我们通过实验表明，SPROUT 总能识别出有监督分类器误分类中的绝大部分，且在特定情况下能够检测所有误分类。SPROUT 实现包含预训练包装器，已公开可用，并可极低代价部署。
引用
@article{arxiv.2308.12065,
title = {Ensembling Uncertainty Measures to Improve Safety of Black-Box Classifiers},
author = {Tommaso Zoppi and Andrea Ceccarelli and Andrea Bondavalli},
journal= {arXiv preprint arXiv:2308.12065},
year = {2023}
}
备注
To appear at ECAI23 in October23