ZARA：改进小语言模型的少样本自合理化
计算与语言
2023-10-24 v2
摘要
能够同时生成末端任务答案与自由文本理由的语言模型（LM）被称为自合理化模型。近期工作表明，通过使用增强理由的示例对 LM 进行少样本提示，自合理化性能获得巨大提升。然而，从解释中获益的能力仅在大规模 LM 上显现，而其可及性较差。本工作中，我们探索了利用解释提升小 LM 少样本自合理化这一较少被研究的设定。我们首先重新审视理由与答案之间的关系。受人类评估解释的内在心理过程启发，我们提出一种新方法——理由-答案对的零样本增强（ZARA），通过将合理性判断问题归约为自然语言推理，自动构建用于自训练的伪平行数据。实验结果表明，ZARA 在 FEB 基准上取得了 SOTA 性能，无论任务准确率还是解释指标。此外，我们进行了人工与定量评估，验证了 ZARA 自动识别合理且准确理由-答案对的能力。
引用
@article{arxiv.2305.07355,
title = {ZARA: Improving Few-Shot Self-Rationalization for Small Language Models},
author = {Wei-Lin Chen and An-Zi Yen and Cheng-Kuang Wu and Hen-Hsen Huang and Hsin-Hsi Chen},
journal= {arXiv preprint arXiv:2305.07355},
year = {2023}
}
备注
Accepted as a long paper at EMNLP Findings 2023