可用 XAI：在 LLM 时代利用可解释性的 10 种策略
机器学习
2025-05-20 v2 计算与语言
计算机与社会
摘要
可解释 AI（XAI）是指为 AI 模型的工作原理提供人类可理解的见解的技术。最近，XAI 的重点正扩展到解释大型语言模型（LLMs）。这种扩展要求 XAI 方法论发生重大转变，原因有二。首先，由于 LLMs 的复杂性和先进能力，许多现有的 XAI 方法无法直接应用于 LLMs。其次，随着 LLMs 越来越多地部署于各种应用中，XAI 的角色从仅仅打开“黑盒”转变为积极提升 LLMs 在真实场景中的生产力和适用性。同时，LLMs 的对话和生成能力可以反向增强 XAI。因此，在本文中，我们通过分析（1）XAI 如何解释和改进基于 LLM 的 AI 系统，以及（2）如何利用 LLMs 改进 XAI 技术，在 LLMs 背景下引入可用 XAI（Usable XAI）。我们介绍了 10 种策略，阐述了每种策略的关键技术并讨论了其相关挑战。我们还提供了案例研究，以展示如何获取和利用解释。本文使用的代码可在：https://github.com/JacksonWuxs/UsableXAI_LLM 找到。
引用
@article{arxiv.2403.08946,
title = {Usable XAI: 10 Strategies Towards Exploiting Explainability in the LLM Era},
author = {Xuansheng Wu and Haiyan Zhao and Yaochen Zhu and Yucheng Shi and Fan Yang and Lijie Hu and Tianming Liu and Xiaoming Zhai and Wenlin Yao and Jundong Li and Mengnan Du and Ninghao Liu},
journal= {arXiv preprint arXiv:2403.08946},
year = {2025}
}
备注
43 pages, 6 figures, including the latest works published in 2024-2025