带概念保障的分类
机器学习
2024-11-08 v1
摘要
我们提出了一种在具有既定概念的分类任务中促进安全性的新方法。我们的方法——称为概念保障——充当验证层，模型通过首先预测中间概念的存在来预测目标结果。在这种架构下，保障确保模型通过放弃不确定的预测来达到最低准确度水平。与标准的选择性分类器不同，保障提供了一种途径来提高覆盖率，允许人工确认其在放弃的实例上不确定概念的存在。我们开发了构建保障的方法，以在不损害安全性的前提下最大化覆盖率，即传播概念预测中的不确定性以及标记显著概念以供人工审查。我们在真实和合成数据集集合上验证了我们的方法，表明它可以在深度学习任务中提升性能和覆盖率。
引用
@article{arxiv.2411.04342,
title = {Classification with Conceptual Safeguards},
author = {Hailey Joren and Charles Marx and Berk Ustun},
journal= {arXiv preprint arXiv:2411.04342},
year = {2024}
}