增强 AI 研究论文分析：基于因子化 Transformer 序列建模方法的方法论组件抽取
信息检索
2023-11-08 v1 数字图书馆
机器学习
摘要
科学学科的研究随着新方法论及其相关术语的出现而随时间演进，通常十分迅速。尽管方法论本身具有概念性且难以自动抽取与刻画，在本文中我们致力于开发有监督模型，用于自动抽取方法论各组成部分的名称，例如‘R-CNN’、‘ELMo’等。该任务的主要研究挑战是在少样本甚至零样本设定下有效建模这些方法论组件名称周围的上下文。本文在有效识别新兴科学方法论名称方面的主要贡献如下：i）我们提出了一种因子化序列建模方法，其利用了方法论领域的宽泛类别信息，例如‘NLP’、‘RL’等；ii）为证明我们所提方法在快速演进的 AI 文献的实际设定下识别方法论组件名称的可行性，我们遵循模拟时间顺序设定（训练过程中未见的新方法论）进行实验；iii）我们的实验表明，在少样本设定下，因子化方法在方法论抽取任务上以高达 9.257% 的幅度优于最先进的基线。
引用
@article{arxiv.2311.03401,
title = {Enhancing AI Research Paper Analysis: Methodology Component Extraction using Factored Transformer-based Sequence Modeling Approach},
author = {Madhusudan Ghosh and Debasis Ganguly and Partha Basuchowdhuri and Sudip Kumar Naskar},
journal= {arXiv preprint arXiv:2311.03401},
year = {2023}
}