度量与提升 NLP 模型的鲁棒性：一项综述
计算与语言
2022-05-11 v2 机器学习
摘要
随着 NLP 模型在基准测试上取得 SOTA 性能并获得广泛应用，确保这些模型在现实世界中的安全部署变得愈发重要，例如，确保模型对未见过的或具有挑战性的场景具有鲁棒性。尽管鲁棒性是一个日益受到关注的话题，但它已在视觉和 NLP 等应用中被分别探讨，并在多条研究脉络中伴随着各种定义、评估与缓解策略。在本文中，我们旨在提供一份统一的综述，阐述如何在 NLP 中定义、度量并提升鲁棒性。我们首先将鲁棒性的多种定义联系起来，随后统一了关于识别鲁棒性失效和评估模型鲁棒性的各类工作。相应地，我们提出了数据驱动、模型驱动以及基于归纳先验的缓解策略，并以更系统的视角看待如何有效提升 NLP 模型的鲁棒性。最后，我们 outlining 开放挑战与未来方向，以激励该领域的进一步研究。
引用
@article{arxiv.2112.08313,
title = {Measure and Improve Robustness in NLP Models: A Survey},
author = {Xuezhi Wang and Haohan Wang and Diyi Yang},
journal= {arXiv preprint arXiv:2112.08313},
year = {2022}
}
备注
Accepted by NAACL 2022 main conference (Long paper). Camera-ready version