ArgInstruct：面向计算论辩的专门化指令微调
计算与语言
2025-05-29 v1
摘要
训练大型语言模型遵循指令已显著增强了其处理未见任务的能力。然而，尽管具有强大的泛化能力，遵循指令的 LLM 在处理需要领域知识的任务时仍遇到困难。本工作引入了针对计算论辩（CA）领域的专门化指令微调。目标是使 LLM 能够在保持泛化能力的同时，有效地处理任何未见的 CA 任务。为此，我们回顾了现有的 CA 研究，为 105 个 CA 任务精心设计了自然语言指令。在此基础上，我们开发了一个针对 CA 的 LLM 基准，允许对 LLM 解决各种 CA 任务的能力进行全面评估。我们合成了 52k 条与 CA 相关的指令，调整 self-instruct 过程以训练一个 CA 专门化的指令遵循 LLM。我们的实验表明，CA 专门化的指令微调在已见和未见的 CA 任务上都显著增强了 LLM。同时，在 SuperNI 基准的一般 NLP 任务上的性能保持稳定。
引用
@article{arxiv.2505.22076,
title = {ArgInstruct: Specialized Instruction Fine-Tuning for Computational Argumentation},
author = {Maja Stahl and Timon Ziegenbein and Joonsuk Park and Henning Wachsmuth},
journal= {arXiv preprint arXiv:2505.22076},
year = {2025}
}