中文

DeepTagger:面向网页广告查询的知识增强命名实体识别

信息检索 2023-07-03 v1

摘要

命名实体识别(NER)是在线广告的一项关键任务。最先进的解决方案利用预训练语言模型完成该任务。然而,三个主要挑战尚未解决:网页查询不同于预训练模型所训练的自然语言;网页查询简短且缺乏上下文信息;以及用于 NER 的标注数据稀缺。我们提出 DeepTagger,一种面向网页广告查询的知识增强 NER 模型。所提出的知识增强框架同时利用无模型与基于模型的方法。对于无模型增强,我们收集未标注网页查询以扩充领域知识;并收集网页搜索结果以丰富广告查询的信息。我们进一步利用有效的提示方法,使用 ChatGPT 等大型语言模型自动生成标签。此外,我们采用基于对抗数据增强的模型型知识增强方法。我们采用三阶段训练框架来训练 DeepTagger 模型。在各 NER 任务上的实证结果证明了所提框架的有效性。

关键词

引用

@article{arxiv.2306.17413,
  title  = {DeepTagger: Knowledge Enhanced Named Entity Recognition for Web-Based Ads Queries},
  author = {Simiao Zuo and Pengfei Tang and Xinyu Hu and Qiang Lou and Jian Jiao and Denis Charles},
  journal= {arXiv preprint arXiv:2306.17413},
  year   = {2023}
}