Self-QA：无监督知识引导的语言模型对齐
计算与语言
2023-05-23 v1
摘要
ChatGPT 和 GPT-4 等大规模语言模型因其令人印象深刻的对话与生成能力而受到关注。然而，为指令微调创建有监督的配对问答数据面临巨大挑战。这一工作亟需大量人力进行数据标注，并受制于数据质量、多样性、准确性及相关因素等问题。为克服这些障碍，我们提出一种名为 Self-QA 的创新框架，其以大量无监督知识替代传统由人工撰写的指令种子，使模型能够生成更大量正确且具领域特异性的指令数据。我们所提方法的有效性通过在来自不同领域的无监督语料上的实验得到证明。
引用
@article{arxiv.2305.11952,
title = {Self-QA: Unsupervised Knowledge Guided Language Model Alignment},
author = {Xuanyu Zhang and Qing Yang},
journal= {arXiv preprint arXiv:2305.11952},
year = {2023}
}