中文

DistALANER:开源软件生态系统中远程监督与主动学习增强的命名实体识别

计算与语言 2024-06-21 v5

摘要

随着人工智能革命的到来,构建自动化系统以支持不同领域(如开源软件系统、医疗系统、银行系统、交通系统等)专业人士的趋势日益显著。此类支持工具自动化的一个关键需求是早期识别命名实体,这为开发专门功能奠定了基础。然而,由于每个领域的特定性质、不同的技术术语和专业语言,专家对可用数据的标注变得昂贵且具有挑战性。鉴于这些挑战,本文提出了一种专门针对开源软件系统的新型命名实体识别(NER)技术。我们的方法旨在通过采用全面的两步远程监督标注过程来解决标注软件数据的稀缺性。该过程策略性地利用语言启发式规则、唯一查找表、外部知识源和主动学习方法。通过利用这些强大技术,我们不仅提升了模型性能,还有效缓解了与成本和专家标注者稀缺相关的限制。值得注意的是,我们的模型显著优于最先进的大语言模型(LLM),差距明显。我们还展示了NER在下游关系抽取任务中的有效性。

关键词

引用

@article{arxiv.2402.16159,
  title  = {DistALANER: Distantly Supervised Active Learning Augmented Named Entity Recognition in the Open Source Software Ecosystem},
  author = {Somnath Banerjee and Avik Dutta and Aaditya Agrawal and Rima Hazra and Animesh Mukherjee},
  journal= {arXiv preprint arXiv:2402.16159},
  year   = {2024}
}

备注

Accepted at ECML-PKDD 2024 (Long Paper)