Paperswithtopic：仅从论文标题进行主题识别
计算与语言
2022-04-04 v2 人工智能
摘要
深度学习领域正快速发展，期刊、会议和预印本服务器上提交的论文呈指数级增长便是明证。为应对海量论文，自然语言处理（NLP）领域已提出若干文本挖掘工具，使研究人员能够追踪最新发现。在此背景下，我们的论文做出两项主要贡献：第一，我们收集并标注了一个来自人工智能（AI）领域的、由论文标题与子领域配对组成的数据集；第二，我们展示了如何从给定论文标题预测该论文的 AI 子领域。重要的是，对于后者这一短文本分类任务，我们比较了从传统机器学习到近期较大 transformer 架构的多种算法。最后，对于 transformer 模型，我们还给出了基于梯度的注意力可视化，以进一步解释模型的分类过程。所有代码见 \url{https://github.com/1pha/paperswithtopic}。
引用
@article{arxiv.2110.15721,
title = {Paperswithtopic: Topic Identification from Paper Title Only},
author = {Daehyun Cho and Christian Wallraven},
journal= {arXiv preprint arXiv:2110.15721},
year = {2022}
}