用于改进特定领域LLM的智能对抗问答
计算与语言
2026-02-23 v1 人工智能
机器学习
摘要
大型语言模型（LLM）尽管在广泛的互联网语料上进行了大规模预训练，但常常难以有效适应特定领域。为此，人们倾向于进行细调，但进展受限于高质量任务相关数据稀缺和覆盖不足。为此常采用 paraphrase 或知识抽取等合成数据生成方法。虽然这些方法在事实记忆和概念知识方面表现优异，但存在两个关键短板：（i）对这些特定领域的解释性推理能力支持不足，（ii）生成的合成语料过大且冗余，导致样本效率差。为克服此困难，我们提出一种对抗问答生成框架，产生一套语义上具挑战性的精简问题。这些问题通过迭代反馈驱动过程构建，比较待适应模型与基于参考文件建立的稳健专家模型输出，以揭示并解决理解偏差。针对LegalBench语料库的特定子集进行评估，表明本方法在大幅减少合成样本数量的同时，实现了更高准确率。
引用
@article{arxiv.2602.18137,
title = {Agentic Adversarial QA for Improving Domain-Specific LLMs},
author = {Vincent Grari and Ciprian Tomoiaga and Sylvain Lamprier and Tatsunori Hashimoto and Marcin Detyniecki},
journal= {arXiv preprint arXiv:2602.18137},
year = {2026}
}
备注
9 pages, 1 Figure