模型规模对基于 LIME 的 LLM 事后可解释性的影响
计算与语言
2024-05-10 v1 人工智能
机器学习
摘要
大型语言模型（LLMs）正变得越来越大以提升性能。然而，关于这种趋势如何影响可解释性却知之甚少。本研究探讨了在自然语言推理（NLI）和零样本分类（ZSC）任务上，四种不同规模的DeBERTaV3模型的LIME解释。我们根据解释对模型内部决策过程的忠实度及其合理性（即它们与人类解释的一致性）来评估这些解释。关键发现是，尽管模型性能有所提高，但增加的模型规模与合理性并不相关，这表明随着模型规模的增加，LIME解释与模型内部过程之间存在不一致。我们的结果进一步表明了在NLI背景下忠实度指标的局限性。
引用
@article{arxiv.2405.05348,
title = {The Effect of Model Size on LLM Post-hoc Explainability via LIME},
author = {Henning Heyen and Amy Widdicombe and Noah Y. Siegel and Maria Perez-Ortiz and Philip Treleaven},
journal= {arXiv preprint arXiv:2405.05348},
year = {2024}
}
备注
Published at ICLR 2024 Workshop on Secure and Trustworthy Large Language Models