基于带位置嵌入预训练模型的新型语步识别增强算法
计算与语言
2023-12-18 v2 人工智能
机器学习
摘要
摘要语步识别对有效定位内容与厘清文章至关重要。现有语步识别算法缺乏学习词位置信息以获取上下文语义的能力。本文提出一种新型增强语步识别算法，采用改进预训练模型与带注意力机制的门控网络，面向中文科技论文非结构化摘要。该算法先进行摘要数据分割与词汇训练，利用EP-ERNIE_AT-GRU框架融入词位置信息，促进深度语义学习与针对性特征提取。实验表明，所提算法在分割数据集上准确率较原始数据集高13.37%，较基础对比模型准确率提升7.55%。
引用
@article{arxiv.2308.10822,
title = {A Novel Ehanced Move Recognition Algorithm Based on Pre-trained Models with Positional Embeddings},
author = {Hao Wen and Jie Wang and Xiaodong Qiao},
journal= {arXiv preprint arXiv:2308.10822},
year = {2023}
}