生成式代理能否预测情绪？

大型语言模型 (LLM) 已展示出诸多类人类能力，但其共情理解和情感状态尚未与人类一致。在本工作中，我们研究生成式 LLM 代理随着感知新事件而演化的情感状态，提出了一种新架构，将新经验与过去的记忆进行比较。通过这种比较，代理能够以情境理解新经验，这在情感创建中至关重要。首先，代理将新经验作为时间序列文本数据进行感知。感知每个新输入后，代理生成过去相关记忆的摘要，称为规范，然后将新经验与该规范进行比较。通过这种比较，我们可以分析代理对新经验的反应。随后对 PANAS（情感测试）进行测试，捕捉代理感知新事件后的情感状态。最后，将新经验添加到代理的记忆中，用于未来规范的创建。通过从情感充满的情境中创建多个自然语言经验，我们在广泛的情景中测试了所提出的架构。混合结果表明，引入情境有时可以改善代理的情感对齐，但需要进一步研究并与人类评估者进行比较。我们希望本文是生成式代理对齐进程中的一步进展。