使用大型语言模型对情感与伦理进行建模
计算与语言
2024-06-26 v2 人工智能
摘要
本文探讨了将类人情感和伦理考量整合到大型语言模型（LLMs）中。我们首先对八种基本人类情感进行建模，将其表示为对立的两极，并采用协作式 LLMs 在不同强度范围内重新解释和表达这些情感。我们的研究重点还在于在 LLMs 中嵌入潜在的伦理维度，该过程由一种结合人类反馈的新型自监督学习算法（SSHF）指导。这种方法使 LLMs 能够针对伦理准则进行自我评估和调整，增强了其生成不仅在情感上引起共鸣而且在伦理上保持一致的内容的能力。本文提出的方法和案例研究展示了 LLMs 超越单纯的文本和图像生成的潜力，涉足共情交互和原则性决策的领域，从而为开发具有情感感知和伦理意识的 AI 系统树立了新的先例。
引用
@article{arxiv.2404.13071,
title = {Modeling Emotions and Ethics with Large Language Models},
author = {Edward Y. Chang},
journal= {arXiv preprint arXiv:2404.13071},
year = {2024}
}
备注
8 pages, 4 figures, 3 tables