中文

SLIM-LLM:通过低维表示建模风格-感官语言关系

计算与语言 2025-08-06 v1

摘要

感官语言——即与我们的视觉、听觉、触觉、味觉、嗅觉和内感受等感觉相联系的语言,在我们交流经验和感知的过程中发挥着基础性作用。我们使用一种新颖的降秩岭回归(R4)方法,探索了感官语言与传统风格特征(如LIWC测量的特征)之间的关系。我们证明,与完整特征集(r = 74)相比,r = 24的LIWC特征低维潜在表示能够有效捕捉用于感官语言预测的风格信息。我们引入了风格计量精简可解释模型(SLIM-LLM),用于建模这些风格维度之间的非线性关系。在五种体裁上的评估表明,使用低秩LIWC特征的SLIM-LLM在匹配全规模语言模型性能的同时,将参数量减少了高达80%。

关键词

引用

@article{arxiv.2508.02901,
  title  = {SLIM-LLMs: Modeling of Style-Sensory Language RelationshipsThrough Low-Dimensional Representations},
  author = {Osama Khalid and Sanvesh Srivastava and Padmini Srinivasan},
  journal= {arXiv preprint arXiv:2508.02901},
  year   = {2025}
}