不要太激动——在LLM中激发情感
人工智能
2025-03-05 v1
摘要
本文研究了大语言模型（LLM）中的情感控制挑战，重点关注其在长对话中表达适当情绪状态的能力。我们评估了最先进的开放权重LLM，以评估其在唤醒度和效价方面的情感表达范围。我们的研究采用了一种新颖的方法，将基于LLM的情感分析与LLM之间的多轮对话模拟相结合。我们量化了模型表达广泛情绪谱系的能力，以及这些情绪在交互过程中的波动。我们的发现揭示了不同LLM在保持一致情感方面的能力存在显著差异，某些模型表现出比其他模型更稳定的情绪轨迹。此外，我们识别了情感控制中的关键挑战，包括产生和维持极端情绪状态的困难，以及使情感适应不断变化的对话语境的局限性。这些发现对开发更具情感的智能AI系统具有重要意义，并突显了改进LLM中情感建模的必要性。
引用
@article{arxiv.2503.02457,
title = {Don't Get Too Excited -- Eliciting Emotions in LLMs},
author = {Gino Franco Fazzi and Julie Skoven Hinge and Stefan Heinrich and Paolo Burelli},
journal= {arXiv preprint arXiv:2503.02457},
year = {2025}
}