BILLY:通过融合人格向量引导大语言模型实现创造性生成
计算与语言
2026-01-27 v2 人工智能
摘要
多 LLM 系统通过模拟人类集体智能来增强大语言模型的创造力,但存在显著缺陷,例如高昂的计算成本与推理延迟。为克服这些局限,我们提出 BILLY(BlendIng persona vectors for Large Language model creativitY,面向大语言模型创造力的人格向量融合),一种无需训练即可在单个模型内捕获多 LLM 协作优势(即诱发多样化视角与专业化能力)的框架。BILLY 通过直接在模型激活空间中提取并融合多个不同的人格向量来工作。在推理过程中,我们使用该融合向量引导模型的生成过程,从而无需显式的多 LLM 通信即可实现多视角输出。我们在面向创造力的基准上的实验表明,BILLY 超越了单模型提示与传统多 LLM 方法,同时大幅降低了推理时间与计算成本。进一步的分析揭示,不同的人格向量可以被融合,以同时实现对生成互补方面的有效控制与更高的可解释性。
引用
@article{arxiv.2510.10157,
title = {BILLY: Steering Large Language Models via Merging Persona Vectors for Creative Generation},
author = {Tsung-Min Pai and Jui-I Wang and Li-Chun Lu and Shao-Hua Sun and Hung-Yi Lee and Kai-Wei Chang},
journal= {arXiv preprint arXiv:2510.10157},
year = {2026}
}