超越一刀切：根据用户目标调整反事实解释
机器学习
2024-04-16 v1 人工智能
摘要
可解释人工智能（XAI）已成为一个关键研究领域，旨在增强AI系统的透明度和可解释性。反事实解释（CFE）通过探索某些因素不同的替代场景，为机器学习算法的决策过程提供了宝贵见解。尽管CFE在XAI社区中日益流行，但现有文献常常忽视不同应用和领域中用户的多样化需求和目标，导致缺乏充分针对不同用例量身定制的解释。在本文中，我们倡导对CFE进行细致理解，认识到基于用户目标和目标应用所需属性的可变性。我们识别了三种主要用户目标，并探讨了每种情况下CFE的理想特征。通过解决这些差异，我们旨在设计更有效、更量身定制的解释，以满足用户的特定需求，从而增强与AI系统的协作。
引用
@article{arxiv.2404.08721,
title = {Beyond One-Size-Fits-All: Adapting Counterfactual Explanations to User Objectives},
author = {Orfeas Menis Mastromichalakis and Jason Liartis and Giorgos Stamou},
journal= {arXiv preprint arXiv:2404.08721},
year = {2024}
}