选择性概念模型：允许利益相关者在测试时定制
人机交互
2023-06-16 v1 人工智能
机器学习
摘要
基于概念的模型使用一组对利益相关者可解释的概念进行预测。然而，此类模型通常涉及固定且大量的概念，这可能给利益相关者带来显著的认知负担。我们提出选择性概念模型（SCOMs），其仅使用概念子集进行预测，并可由利益相关者在测试时根据其偏好进行定制。我们表明，在多个真实世界数据集上，SCOMs 仅需总概念的一小部分即可达到最优准确率。此外，我们收集并发布了一个新数据集 CUB-Sel，包含来自流行 CUB 数据集的 900 张鸟类中人类概念集选择。利用 CUB-Sel，我们表明人类对于其偏好推理的概念选择具有独特的个体偏好，并且难以识别最具理论信息量的概念。SCOM 所提供的定制与概念选择提升了利益相关者解释与干预的效率。
引用
@article{arxiv.2306.08424,
title = {Selective Concept Models: Permitting Stakeholder Customisation at Test-Time},
author = {Matthew Barker and Katherine M. Collins and Krishnamurthy Dvijotham and Adrian Weller and Umang Bhatt},
journal= {arXiv preprint arXiv:2306.08424},
year = {2023}
}