引导ChatGPT生成显著的领域摘要
计算与语言
2024-06-04 v1
摘要
ChatGPT通过基于人类反馈的强化学习（RLHF）进行指令微调，以生成通用且符合人类预期的内容，但这也导致生成的响应不够显著。因此，在这种情况下，ChatGPT可能无法在零样本设置下满足领域需求，导致ROUGE分数较低。受ChatGPT的上下文学习（ICL）和复述能力的启发，本文提出了PADS，一个辅助ChatGPT进行领域摘要的管道。PADS由一个检索器（从语料库中检索相似示例）和一个排序模型（对ChatGPT生成的多个候选摘要进行重排序）组成。具体而言，给定一个推理文档，我们首先通过检索器检索一个上下文示例。然后，我们要求ChatGPT在检索到的示例指导下，一次性为推理文档生成k个候选摘要。最后，排序模型根据质量独立地对k个候选摘要进行评分，并选择最优的一个。我们广泛探索了稠密和稀疏检索方法，以选择有效的示例作为参考，并高效训练排序模型，使其能够反映每个给定摘要文档的候选摘要质量。此外，PADS仅包含来自排序模型的4亿可训练参数，且我们仅收集了2500条数据来训练它。我们在来自不同领域的五个数据集上评估了PADS，结果表明PADS中的每个模块都致力于有效引导ChatGPT生成符合不同领域需求的显著摘要。具体而言，在流行的摘要数据集Gigaword上，与零样本设置下的原始ChatGPT相比，PADS在ROUGE-L上获得了超过+8的提升。我们的代码可在https://github.com/jungao1106/PADS获取。
引用
@article{arxiv.2406.01070,
title = {Guiding ChatGPT to Generate Salient Domain Summaries},
author = {Jun Gao and Ziqiang Cao and Shaoyao Huang and Luozheng Qin and Chunhui Ai},
journal= {arXiv preprint arXiv:2406.01070},
year = {2024}
}