中文

PersLLM:一种面向大语言模型的拟人化训练方法

计算与语言 2025-05-16 v5 人工智能 计算机与社会

摘要

大语言模型(LLMs)展现出类人智能,使其能够模拟人类行为,并支持各种需要人性化交流和广泛知识储备的应用。人们努力通过特殊的训练数据或手工设计的提示来拟人化大语言模型,但相应地也面临着数据利用不足或行为模式僵化等挑战。因此,拟人化的大语言模型未能捕捉到拟人化知识或表达持续的观点。为了充分释放大语言模型拟人化的潜力,我们提出了 PersLLM,一个用于更好数据构建和模型微调的框架。针对数据利用不足的问题,我们引入了思维链提示和反诱导等策略,提高了数据构建的质量,并更全面地捕捉了个性化经验、知识和思想。针对行为模式僵化的问题,我们设计了微调过程并引入了自动化 DPO,以增强模型个性的特异性和动态性,从而实现更自然的观点交流。自动化指标和专家人工评估均证明了我们方法的有效性。在人机交互和多智能体系统中的案例研究进一步揭示了大语言模型拟人化的潜在应用场景和未来方向。

关键词

引用

@article{arxiv.2407.12393,
  title  = {PersLLM: A Personified Training Approach for Large Language Models},
  author = {Zheni Zeng and Jiayi Chen and Huimin Chen and Yukun Yan and Yuxuan Chen and Zhenghao Liu and Zhiyuan Liu and Maosong Sun},
  journal= {arXiv preprint arXiv:2407.12393},
  year   = {2025}
}

备注

8 pages for main text, 5 figures