AdaptFuse：基于外部化贝叶斯推断的训练免费顺序偏好学习
计算与语言
2026-04-07 v1 人工智能
摘要
大型语言模型在跨多轮用户交互中积累证据方面存在挑战，无法以贝叶斯推断方式更新其信念。现有解决方案需要在敏感的用户交互数据上进行微调，限制了其在注重隐私的环境中的应用。我们提出AdaptFuse，一个完全外部化概率计算的训练免费框架：符号模块维护对离散假设集合的贝叶斯后验，而冻结的LLM通过多采样Dirichlet聚合贡献语义推理。两者通过熵自适应融合相结合，该方法自动根据其预测置信度为每个来源分配权重，随着证据积累，逐渐从LLM转向符号后验。我们在三个领域进行评估：航班推荐、酒店推荐和网购；在Gemma 2 9B、Llama 3 8B和Qwen 2.5 7B上进行测试。AdaptFuse在所有任务上都一致优于提示基线和微调的贝叶斯教学模型，准确率随交互轮数单调提高。这些结果表明，原则性的推理时算法可以替代微调来实现个性化推荐，而无需存储或训练敏感的用户数据。所有代码和材料将开源。
引用
@article{arxiv.2604.03925,
title = {AdaptFuse: Training-Free Sequential Preference Learning via Externalized Bayesian Inference},
author = {Fangzhou Lin and Peiran Li and Shuo Xing and Siyuan Yang and Qianwen Ge and Kazunori Yamada and Ziming Zhang and Haichong Zhang and Zhengzhong Tu},
journal= {arXiv preprint arXiv:2604.03925},
year = {2026}
}
备注
20 pages, 4 figures, 5 tables