使用 Captum 解释生成式语言模型
计算与语言
2023-12-12 v1 人工智能
摘要
Captum 是一个用于 PyTorch 模型可解释性的综合库，提供了一系列来自可解释性文献的方法，以增强用户对 PyTorch 模型的理解。在本文中，我们介绍了 Captum 中专门设计用于分析生成式语言模型行为的新功能。我们概述了可用功能及其在理解生成式语言模型中学习到的关联方面的应用示例与潜力。
引用
@article{arxiv.2312.05491,
title = {Using Captum to Explain Generative Language Models},
author = {Vivek Miglani and Aobo Yang and Aram H. Markosyan and Diego Garcia-Olano and Narine Kokhlikyan},
journal= {arXiv preprint arXiv:2312.05491},
year = {2023}
}