预训练语言模型能否为研究论文生成标题？
计算与语言
2024-10-15 v2 人工智能
摘要
研究论文的标题以简洁的风格传达论文的主题，有时也传达其研究发现。想出一个合适的标题通常是一项艰巨的任务，因此，标题生成的自动化将使作者受益。在本文中，我们微调预训练语言模型，以根据论文摘要生成论文标题。此外，我们在零样本设置下使用 GPT-3.5-turbo 生成论文标题。模型的性能通过 ROUGE、METEOR、MoverScore、BERTScore 和 SciBERTScore 指标进行评估。我们发现，在大多数指标上，微调后的 PEGASUS-large 优于其他模型，包括微调后的 LLaMA-3-8B 和 GPT-3.5-turbo。我们还展示了 ChatGPT 能够为论文生成富有创造性的标题。我们的观察表明，AI 生成的论文标题通常是准确且恰当的。
引用
@article{arxiv.2409.14602,
title = {Can pre-trained language models generate titles for research papers?},
author = {Tohida Rehman and Debarshi Kumar Sanyal and Samiran Chattopadhyay},
journal= {arXiv preprint arXiv:2409.14602},
year = {2024}
}