超越单一概念向量：基于高斯分布的 LLM 中的概念子空间建模
计算与语言
2025-05-07 v3 人工智能
机器学习
摘要
探测大型语言模型（LLM）中所学概念的方式对于理解语义知识如何在内部编码至关重要。在探测任务上对线性分类器进行训练是表示某一概念向量的原则方法。然而，针对同一概念识别的单一向量会随数据和训练过程而变化，使其在实际应用中不够稳健，削弱其有效性。为此，我们提出了一种逼近表示特定概念子空间的方法。基于线性探测分类器，我们将概念向量扩展为高斯概念子空间（Gaussian Concept Subspace, GCS）。我们通过在多个不同规模和体系结构的 LLM 中衡量其忠实性和合理性来展示 GCS 的有效性。此外，我们使用表示干预任务来展示其在实际应用中如情感引导等方面的有效性。实验结果表明，GCS 概念向量有望在自然语言生成任务中实现驾驭性能与保持流畅性之间的平衡。
引用
@article{arxiv.2410.00153,
title = {Beyond Single Concept Vector: Modeling Concept Subspace in LLMs with Gaussian Distribution},
author = {Haiyan Zhao and Heng Zhao and Bo Shen and Ali Payani and Fan Yang and Mengnan Du},
journal= {arXiv preprint arXiv:2410.00153},
year = {2025}
}
备注
Accepted by ICLR 2025