解码时 LLM 的多人格生成
计算与语言
2026-01-16 v4 人工智能
摘要
LLM 的多人格生成，即同时具象化多个个人化属性，是一项基本挑战。现有的基于重新训练的方法成本高昂且规模不佳，而基于解码时的方法常依赖外部模型或启发式方法，限制了灵活性和鲁棒性。本文提出一种 novel 多人格生成（MPG）框架，基于解码时组合范式实现。它无需依赖稀缺的多维模型或额外训练，即可灵活控制多人格，凭借单维模型中隐式密度比的“天然馈饷”，将任务重新表述为从聚合这些比率的目标策略中进行采样。为高效实现 MPG，我们设计了基于投机块级的拒绝采样（SCR），在滑动窗口内生成响应块并并行验证其估计阈值。这显著减少了计算开销，同时保持高质量生成。在 MBTI 人格和角色扮演实验中，MPG 的效果得到验证，显示提升幅度可达 16%至 18%。代码和数据已公开于 https://github.com/Libra117/MPG。
引用
@article{arxiv.2511.01891,
title = {Multi-Personality Generation of LLMs at Decoding-time},
author = {Rongxin Chen and Yunfan Li and Yige Yuan and Bingbing Xu and Huawei Shen},
journal= {arXiv preprint arXiv:2511.01891},
year = {2026}
}
备注
Accepted by WSDM 2026