基于 PHL 三元组生成的无监督自然语言推理
计算与语言
2022-03-16 v2 人工智能
机器学习
摘要
基于 Transformer 的模型在各自训练数据集上训练时，在众多自然语言推理（NLI）基准上取得令人印象深刻的性能。然而在某些情况下，训练样本可能不可用，或其收集耗时耗力。本工作中，我们解决上述挑战，并对无监督 NLI 这一无人标注训练样本可用的范式进行探索性研究。我们在三种设定下考察它：PH、P 与 NPH，其区别在于可用于学习的未标注数据程度。作为解决方案，我们提出一种程序化数据生成方法，利用一组句子变换来收集 PHL（前提、假设、标签）三元组以训练 NLI 模型，从而绕过对人工标注训练数据的需求。在多个 NLI 数据集上的综合实验表明，所提方法在 PH、P 与 NPH 设定下分别取得最高 66.75%、65.9%、65.39% 的准确率，优于所有现有无监督基线。此外，仅用约 0.1% 的人工标注训练数据集（500 实例）微调我们的模型，比在相同 500 实例上从头训练的模型准确率高出 12.2%。基于这一优越性能，我们以收集高质量任务特定数据的建议作结。
引用
@article{arxiv.2110.08438,
title = {Unsupervised Natural Language Inference Using PHL Triplet Generation},
author = {Neeraj Varshney and Pratyay Banerjee and Tejas Gokhale and Chitta Baral},
journal= {arXiv preprint arXiv:2110.08438},
year = {2022}
}
备注
ACL 2022 Findings