PromptExp：大语言模型的多粒度提示解释框架

大语言模型在自然语言理解和文本生成等任务中表现出色。提示工程在有效利用大语言模型方面发挥着关键作用。然而，由于大语言模型的黑盒性质，其解释性和有效的提示工程受到了限制。针对深度学习模型，已developed多种模型解释方法，但这些局部解释设计用于分类和回归等单输出任务，无法直接应用于生成标记序列的大语言模型。近期的大语言模型解释工作聚焦于自然语言解释，但容易出现幻觉和不准确。为此，我们提出了PromptExp，一个通过聚合标记级洞察实现多粒度提示解释的框架。PromptExp引入两种标记级解释方法：1.一种结合局部解释技术的聚合方法，2.一种基于新颖技术评估标记遮蔽影响的扰动方法。PromptExp支持白盒和黑盒解释，并将解释扩展到更高的粒度水平，实现灵活的分析。我们在情感分析等案例研究中评估了PromptExp，结果表明扰动方法通过语义相似性评估扰动影响效果最佳。此外，我们进行了用户研究，确认PromptExp的准确性和实际价值，并展示了其提升大语言模型解释性的潜力。