ProfileXAI：面向用户的可解释人工智能
人工智能
2025-10-28 v1
摘要
ProfileXAI 是一个模型无关且与领域无关的框架，通过将后置解释器（SHAP、LIME、Anchor）与检索增强型大语言模型相结合，为不同类型的用户生成解释。该系统对多模态知识库进行索引，根据定量标准为每个实例选择合适的解释器，并通过聊天式提示生成基于事实的叙述性解释。在心脏病和甲状腺癌数据集上，我们评估了忠实度、鲁棒性、简洁性、token 使用情况以及感知质量。没有哪个解释器占据上风：LIME 在忠实度-鲁棒性之间取得最佳平衡（心脏病数据集上 Infidelity ≤ 0.30，L < 0.7）；Anchor 产生最稀疏的低 token 规则；SHAP 实现了最高的满意度（平均值为 4.1）。Profile 条件化能够稳定 token 使用（标准差 ≤ 13%），并在不同用户档案中保持积极评价（平均值 ≥ 3.7，其中专家用户为 3.77），从而实现高效可信的解释。
引用
@article{arxiv.2510.22998,
title = {ProfileXAI: User-Adaptive Explainable AI},
author = {Gilber A. Corrales and Carlos Andrés Ferro Sánchez and Reinel Tabares-Soto and Jesús Alfonso López Sotelo and Gonzalo A. Ruz and Johan Sebastian Piña Durán},
journal= {arXiv preprint arXiv:2510.22998},
year = {2025}
}
备注
pages, 1 figure, 3 tables. Preprint. Evaluated on UCI Heart Disease (1989) and UCI Differentiated Thyroid Cancer Recurrence (2023). Uses IEEEtran