大语言模型能否忠实地生成其外行人可理解的“自我”？：一项高风险领域的案例研究
人机交互
2024-12-12 v1 机器学习
摘要
大型语言模型（LLMs）几乎影响了人类知识的每一个领域。然而，这些模型的可解释性，尤其是对非专业人士而言，对于建立信任至关重要，却一直受到各种怀疑眼光的审视。在本文中，我们引入了一个面向非专业人士的 LLM 可解释性新概念，称为 ，并在法律、健康和金融这三个高优先级应用领域中，使用多个最先进的 LLM 进行了研究。所提出的概念通过高度的可复现性，在多个任务上展示了可解释的、非专业人士可理解的算法的忠实生成。此外，我们观察到这些可解释算法与 LLM 的内在推理之间存在显著的一致性。
引用
@article{arxiv.2412.07781,
title = {Can LLMs faithfully generate their layperson-understandable 'self'?: A Case Study in High-Stakes Domains},
author = {Arion Das and Asutosh Mishra and Amitesh Patel and Soumilya De and V. Gurucharan and Kripabandhu Ghosh},
journal= {arXiv preprint arXiv:2412.07781},
year = {2024}
}
备注
35 pages, 6 figures