集中要旨、消除余烬：面向自由形式语言生成的细粒度自洫性
计算与语言
2024-07-03 v1 人工智能
摘要
自洫性（SC）通过从 LLM 获取多个样本，在各种推理任务上显示出显著的性能提升，但在自由形式生成中难以聚合答案。其变体 UCS 和 USC 依赖样本选择或投票机制来提高输出质量。然而，这些方法受限于无法充分利用来自多个候选样本中细腻的共识知识，常导致次优输出。我们提出细粒度自洫性（FSC）以解决这些限制，通过从候选样本中提取并整合分段公共性，提升 LLM 在开放式和推理任务上的性能。基于此，我们提出两种额外策略：候选过滤通过识别高度相似的候选集合来提升整体质量；合并通过合并相似样本来减少输入 token 需求。通过在总结、代码生成和数学推理等多个任务上进行大量实验，使用 GPT-3.5-turbo 和 GPT-4 证明了 FSC 的有效性。结果表明，该方法在基线方法上显著提升，展示了 FSC 通过有效整合来自多个样本的细粒度共识知识来优化输出质量的潜力。
引用
@article{arxiv.2407.02056,
title = {Integrate the Essence and Eliminate the Dross: Fine-Grained Self-Consistency for Free-Form Language Generation},
author = {Xinglin Wang and Yiwei Li and Shaoxiong Feng and Peiwen Yuan and Boyuan Pan and Heda Wang and Yao Hu and Kan Li},
journal= {arXiv preprint arXiv:2407.02056},
year = {2024}
}
备注
Accepted to ACL2024 Main Conference