可解释自然语言处理的采用：来自行业和学术界关于实践与挑战的视角

近年来，可解释自然语言处理（NLP）领域发展迅猛。复杂模型日益晦涩，亟需透明度和决策解释，这对于理解其推理过程并促进在高风险环境中的部署至关重要。尽管对可解释 NLP 报告数量不断增加，但实践者关于其实际采纳和有效性的视角仍鲜有探索。本文填补了这一研究空白，通过调查实践者在可解释性方法上的经验，具体聚焦其采纳动机、所采用的技术、满意度水平以及在实际 NLP 应用中遇到的实际挑战。本文通过对行业实践者和学术研究者的定性访谈进行系统分析和比较，揭示了概念性差距、对当前可解释性方法的低满意度，并突显了评估挑战。我们的发现强调，为更好地推动可解释 NLP 在实际中的采纳，亟需明确定义并构建以用户为中心的框架。