好的、坏的及其原因：揭示生成式 AI 中的情感
人工智能
2024-06-10 v3 计算与语言
人机交互
摘要
情感显著影响我们的日常行为与互动。尽管近期的生成式 AI 模型（如大语言模型）在各类任务中展现出令人印象深刻的性能，但它们是否真正理解情感仍不清楚。本文旨在通过引入心理学理论来填补这一空白，以全面理解生成式 AI 模型中的情感。具体而言，我们提出了三种方法：1) EmotionPrompt 以增强 AI 模型性能，2) EmotionAttack 以削弱 AI 模型性能，以及 3) EmotionDecode 以解释良性与恶性情感刺激的影响。通过在语义理解、逻辑推理和生成任务上对语言和多模态模型进行广泛实验，我们证明文本和视觉 EmotionPrompt 均能提升 AI 模型的性能，而 EmotionAttack 则会阻碍其性能。此外，EmotionDecode 揭示了 AI 模型能够理解情感刺激，类似于人脑中多巴胺的机制。我们的工作开辟了探索心理学以增强对生成式 AI 模型理解的新途径。
引用
@article{arxiv.2312.11111,
title = {The Good, The Bad, and Why: Unveiling Emotions in Generative AI},
author = {Cheng Li and Jindong Wang and Yixuan Zhang and Kaijie Zhu and Xinyi Wang and Wenxin Hou and Jianxun Lian and Fang Luo and Qiang Yang and Xing Xie},
journal= {arXiv preprint arXiv:2312.11111},
year = {2024}
}
备注
International Conference on Machine Learning (ICML) 2024; an extension to EmotionPrompt (arXiv:2307.11760)