通过对抗正则化神经 NLI 模型以整合逻辑背景知识
机器学习
2018-08-28 v1 人工智能
计算与语言
机器学习
摘要
对抗样本是为使机器学习模型犯错而设计的模型输入。它们有助于理解机器学习模型的缺陷、解释其结果以及用于正则化。然而在自然语言处理(NLP)中，多数样本生成策略利用已知的、预先指定的语义变换来产生输入文本，这需要大量人工投入以及对问题和领域的深入理解。本文中，我们研究自动生成违反自然语言推理(NLI)中给定一阶逻辑约束的对抗样本的问题。我们通过最大化衡量此类约束违反程度的数量并借助语言模型生成语言上合理的样本，将该对抗样本的识别问题归约为组合优化问题。此外，我们提出一种通过对抗正则化神经 NLI 模型以融入背景知识的方法。我们的结果表明，虽然所提方法并不总能提升在 SNLI 和 MultiNLI 数据集上的结果，但它显著且持续地提高了在对抗构造数据集上的预测准确率——相对提升最高达 79.6%——同时大幅减少了背景知识违反次数。此外，我们表明对抗样本可在模型架构间迁移，且所提对抗训练过程提升了 NLI 模型对对抗样本的鲁棒性。
引用
@article{arxiv.1808.08609,
title = {Adversarially Regularising Neural NLI Models to Integrate Logical Background Knowledge},
author = {Pasquale Minervini and Sebastian Riedel},
journal= {arXiv preprint arXiv:1808.08609},
year = {2018}
}
备注
Accepted at the SIGNLL Conference on Computational Natural Language Learning (CoNLL 2018)