编辑大语言模型的性格
计算与语言
2024-09-04 v4 人工智能
计算机与社会
机器学习
多智能体系统
摘要
本文引入一项创新任务，聚焦于编辑大语言模型（LLM）的性格特质。该任务旨在调整模型对指定主题上观点相关问题的回应，因为个体的性格常以其表达的观点形式显现，从而展示不同的性格特质。具体而言，我们构建了 PersonalityEdit，一个用于解决该任务的新基准数据集。借鉴社会心理学理论，我们提取神经质、外向性和宜人性三种代表性特质作为基准基础。随后利用 GPT-4 收集数据，生成与指定主题一致且体现目标性格特质的回应。我们开展了涉及多种基线的综合实验，并讨论了 LLM 中性格行为的表征。我们的发现揭示了所提任务的潜在挑战，说明了若干遗留问题。我们期望本工作能激发模型编辑与性格相关研究中进一步的标注工作。代码见 https://github.com/zjunlp/EasyEdit。
引用
@article{arxiv.2310.02168,
title = {Editing Personality for Large Language Models},
author = {Shengyu Mao and Xiaohan Wang and Mengru Wang and Yong Jiang and Pengjun Xie and Fei Huang and Ningyu Zhang},
journal= {arXiv preprint arXiv:2310.02168},
year = {2024}
}
备注
NLPCC 2024