面向 XAI 系统中用户信任的新型度量
计算机视觉与模式识别
2025-07-04 v2 人工智能
机器学习
摘要
对深度学习模型日益增加的依赖，加上其固有的不透明性，催生了一个被称为可解释人工智能（XAI）方法的新兴研究领域。这些方法旨在通过提供决策背后的依据来增强终端用户对自动化系统的信任。本文提出了一种针对 XAI 系统的新型信任度量方法，以促进其改进。我们提出的度量指标从客观角度结合了性能指标和信任指标。为了验证这一新方法，我们进行了三个案例研究，结果显示相较于现有技术取得了改进，并且对不同场景具有更高的敏感性。
引用
@article{arxiv.2405.05766,
title = {Towards a Novel Measure of User Trust in XAI Systems},
author = {Miquel Miró-Nicolau and Gabriel Moyà-Alcover and Antoni Jaume-i-Capó and Manuel González-Hidalgo and Adel Ghazel and Maria Gemma Sempere Campello and Juan Antonio Palmer Sancho},
journal= {arXiv preprint arXiv:2405.05766},
year = {2025}
}