面向故事理解与生成的弱监督指令调谐
计算与语言
2025-01-28 v1
摘要
故事理解与生成一直是自然语言处理（NLP）中的具有挑战性的任务，尤其是在处理各种指令明确性程度时。本文提出一种新方法，称为“弱到强指令调谐”（Weak to Strong Instruction Tuning），以提升故事生成效果。我们探讨了大语言模型（LLM）适应不同类型指令（弱指令与强指令）的潜力，表明该方法显著提升了故事理解与生成性能。通过利用指令调谐的优势，我们训练模型以理解故事情节、人物和主题的细微差别，同时生成连贯且引人入胜的叙事。通过在多个基准数据集上进行大量实验并与最先进的基线方法进行比较，我们证明该方法在自动评估指标和人类评估方面均显著优于现有技术。我们的工作表明，自适应指令调谐是精炼复杂叙事任务中生成模型的强大工具。
引用
@article{arxiv.2501.15574,
title = {Instruction Tuning for Story Understanding and Generation with Weak Supervision},
author = {Yangshu Yuan and Heng Chen and Christian Ng},
journal= {arXiv preprint arXiv:2501.15574},
year = {2025}
}