注意力机制：更好地站在巨人肩上
社会与信息网络
2020-06-01 v1 机器学习
机器学习
摘要
科学学（SciSci）是一门新兴学科，它利用大数据集以科学的方法研究科学自身的结构与演化。学术成果数字数据的日益可得，为探索科学学提供了前所未有的机遇。在科学进展中，先前发现的知识主要启发新的科学思想，而引文合理地反映了科学研究的这种累积性。选择潜在有影响力参考文献的研究将在新兴出版物中占据先机。尽管同行评审过程是预测论文未来影响的较为可靠方式，但在大数据时代，基于引文记录预见持久影响的能力在科学影响分析中愈发重要。本文开发了一种用于长期科学影响预测的注意力机制，并基于真实大规模引文数据集验证了该方法。结果打破了传统思维：与其精确模拟原始幂律分布，不如强调有限注意力能更好地站在巨人肩上。
引用
@article{arxiv.2005.14256,
title = {Attention: to Better Stand on the Shoulders of Giants},
author = {Sha Yuan and Zhou Shao and Yu Zhang and Xingxing Wei and Tong Xiao and Yifan Wang and Jie Tang},
journal= {arXiv preprint arXiv:2005.14256},
year = {2020}
}
备注
arXiv admin note: text overlap with arXiv:1811.02117, arXiv:1811.02129