利用网络结构改进金融领域的语义表示
计算与语言
2021-07-14 v1 机器学习
摘要
本文介绍了 MiniTrue 团队参与 FinSim-3 共享任务的情况，该任务旨在学习英语金融领域的语义相似性。我们的方法将基于 transformer 的语言模型学习到的上下文嵌入，与从外部知识源提取的网络结构嵌入相结合，以创建更有意义的金融领域实体与术语表示。为此，使用了两个基于 BERT 的语言模型和一个知识图嵌入模型。此外，我们提出了一种投票函数，将三个基础模型联合用于最终推断。实验结果表明，带有知识图嵌入的模型取得了优于仅带上下文嵌入的模型的结果。然而，我们也观察到我们的投票函数为最终系统带来了额外的增益。
引用
@article{arxiv.2107.05885,
title = {Exploiting Network Structures to Improve Semantic Representation for the Financial Domain},
author = {Chao Feng and Shi-jie We},
journal= {arXiv preprint arXiv:2107.05885},
year = {2021}
}
备注
5 pages, 4 figures