具有多专家的覆盖约束人机协作
机器学习
2024-12-05 v2 计算机视觉与模式识别
摘要
人机协作分类（HAI-CC）方法旨在开发混合智能系统，通过利用人类专业知识和AI能力来增强各种高风险现实场景中的决策。当前的HAI-CC方法主要关注学习推迟（L2D）和学习互补（L2C），前者将决策推迟给人类专家，后者由AI和人类专家协同做出预测。然而，在多样的专家知识下有效探索L2D和L2C以改善决策，特别是在受限于实现仅AI选择的目标概率（即覆盖率）所需的协作成本时，仍然存在显著的研究空白。在本文中，我们通过提出覆盖约束的特定专家学习推迟与互补（CL2DC）方法来解决这一研究空白。CL2DC根据输入数据，通过单独的AI预测、推迟给特定专家或与特定专家互补来做出最终决策。此外，我们提出了一种覆盖约束优化来控制协作成本，确保其近似于仅AI选择的目标概率。该方法能够在指定预算内有效评估系统性能。同时，CL2DC旨在解决训练集包含多个噪声标签标注且没有任何干净标签参考的场景。在合成和真实数据集上的综合评估表明，与最先进的HAI-CC方法相比，CL2DC实现了卓越的性能。
引用
@article{arxiv.2411.11976,
title = {Coverage-Constrained Human-AI Cooperation with Multiple Experts},
author = {Zheng Zhang and Cuong Nguyen and Kevin Wells and Thanh-Toan Do and David Rosewarne and Gustavo Carneiro},
journal= {arXiv preprint arXiv:2411.11976},
year = {2024}
}