比较性解释：面向人在环偏好选择的解释引导决策
机器学习
2025-08-25 v2 人工智能
摘要
本文引入了多输出局部叙述性解释（MOLONE），这是一种新颖的比较性解释方法，旨在增强人在环偏好贝叶斯优化（PBO）中的偏好选择。PBO 中的偏好获取是一项重要任务，因为它涉及在向量值结果之间的隐式权衡、决策者的主观优先级以及决策者在偏好选择中的不确定性。现有的 BO 可解释 AI（XAI）方法主要关注输入特征的重要性，忽略了输出（目标）在人类偏好获取中的关键作用。MOLONE 通过提供同时突出输入和输出重要性的解释来弥补这一差距，使决策者能够理解竞争目标之间的权衡并做出更明智的偏好选择。MOLONE 专注于局部解释，在搜索空间的局部邻域内比较候选样本的输入特征和结果的重要性，从而捕获与基于偏好的决策相关的细微差异。我们在 PBO 框架内使用基准多目标优化函数评估了 MOLONE，证明了其在改善收敛性方面相对于带噪声偏好选择的有效性。此外，一项用户研究证实，MOLONE 通过促进对首选选项更高效的识别，显著加速了人在环场景中的收敛。
引用
@article{arxiv.2504.03744,
title = {Comparative Explanations: Explanation Guided Decision Making for Human-in-the-Loop Preference Selection},
author = {Tanmay Chakraborty and Christian Wirth and Christin Seifert},
journal= {arXiv preprint arXiv:2504.03744},
year = {2025}
}
备注
Accepted at The World Conference on eXplainable Artificial Intelligence 2025 (XAI-2025)