名如其人？BERT 的命名实体表示是否对任何其他同名都同样有效？
计算与语言
2020-07-15 v1 机器学习
摘要
我们通过考察基于 BERT 的 NLP 模型在输入中被同类型实体替换时的鲁棒性，来评估其命名实体表示。我们强调，在多项任务中，尽管此类扰动是自然的，但最先进的训练模型却出奇地脆弱。即便使用近期的实体感知 BERT 模型，这种脆弱性依然存在。我们也试图厘清此种非鲁棒性的成因，考量诸如分词与出现频率等因素。随后我们提供一种简单方法，通过集成多个替换的预测，同时联合建模类型标注与标签预测的不确定性。在三项 NLP 任务上的实验表明，我们的方法增强了鲁棒性，并在自然与对抗数据集上提升了准确率。
引用
@article{arxiv.2007.06897,
title = {What's in a Name? Are BERT Named Entity Representations just as Good for any other Name?},
author = {Sriram Balasubramanian and Naman Jain and Gaurav Jindal and Abhijeet Awasthi and Sunita Sarawagi},
journal= {arXiv preprint arXiv:2007.06897},
year = {2020}
}
备注
Accepted at RepL4NLP, ACL2020