FLamE：基于自然语言解释的少样本学习
计算与语言
2023-06-16 v1 人工智能
摘要
自然语言解释有潜力提供丰富信息，原则上可指导模型推理。然而，Lampinen 等人（2022）的近期工作表明，自然语言解释在改进分类方面的效用有限。为有效地从解释中学习，我们提出 FLamE，一种两阶段少样本学习框架，首先使用 GPT-3 生成解释，然后在生成的解释上微调较小的模型（如 RoBERTa）。我们在自然语言推理上的实验证明了其相对于强基线的有效性，在 e-SNLI 上比 GPT-3 Babbage 准确率提高 17.6%，比 GPT-3 Davinci 提高 5.7%。尽管分类性能有所提升，人工评估却出人意料地显示，大多数生成的解释并不能充分证明分类决策的合理性。进一步的分析指出，生成解释中特定于标签的线索（如中性标签对应的“not know”）发挥着重要作用。
引用
@article{arxiv.2306.08042,
title = {FLamE: Few-shot Learning from Natural Language Explanations},
author = {Yangqiaoyu Zhou and Yiming Zhang and Chenhao Tan},
journal= {arXiv preprint arXiv:2306.08042},
year = {2023}
}
备注
Accepted at ACL 2023 main conference