AI在不同语言和文化中与人类共享情感
软件工程
2025-06-18 v1 计算与语言
摘要
有效且安全的人机协作需要在人类和人工智能（AI）之间进行受控且有意义的情感交换。当前基于大语言模型（LLMs）的AI系统可以提供让人感到被倾听的反馈。然而，仍不清楚LLMs是否以与人类相同的方式表示情感，或者情感基调是否可被控制。我们使用从概念集翻译到的可解释LLM特征，评估超过二十种细化情感类别（包括六种基本情感）的人类AI情感对齐情况。我们的分析表明，LLM派生的情感空间在结构上与人类感知一致，基于情感维度的价值（valence）和唤醒（arousal）这两个基本情感维度。此外，这些情感相关特征还能准确预测大规模行为数据中关于这两个核心维度的单词评级，反映了普遍和语言特定模式。最后，通过仅使用来自人类的情感概念派生的驾驶向量，我们展示模型表达可以在不同情感类别中稳定且自然地被调制，这提供了人类情感概念可被用来系统性地诱导LLMs产生相应情感状态的因果证据。这些发现表明AI不仅与人类共享情感表征，其情感输出还可被基于心理学的情感概念精确引导。
引用
@article{arxiv.2506.13977,
title = {CRITICTOOL: Evaluating Self-Critique Capabilities of Large Language Models in Tool-Calling Error Scenarios},
author = {Shiting Huang and Zhen Fang and Zehui Chen and Siyu Yuan and Junjie Ye and Yu Zeng and Lin Chen and Qi Mao and Feng Zhao},
journal= {arXiv preprint arXiv:2506.13977},
year = {2025}
}