EPO CodeFest绿色塑料竞赛解法：基于深度学习的绿色塑料相关专利层次多标签分类
计算与语言
2023-02-28 v1 机器学习
摘要
本工作旨在对披露绿色塑料相关技术的专利进行层次多标签分类。这是一个新兴领域，目前尚无分类方案，因此无标注数据可用，使该任务尤为具挑战性。我们首先提出该技术的分类方案，以及学习机器学习模型以将专利分类至所提方案的方法。为此，我们提出一种自动为专利分配标签的策略，以创建可用于监督学习环境下训练分类模型的标注训练数据集。利用该训练数据集，我们提出两种分类模型：SciBERT 神经网络（SBNN）模型与 SciBERT 层次神经网络（SBHNN）模型。两模型均使用 BERT 模型作为特征提取器，并在其上使用神经网络作为分类器。我们进行了大量实验并报告了该具挑战性分类问题的常用评价指标。实验结果验证了方法的有效性，并表明我们的模型为该问题设定了很强的基准。我们还通过可视化训练模型给出的词重要性来解释模型，表明模型能够提取输入文档的高层语义信息。最后，我们强调我们的解法如何满足 EPO CodeFest 的评价标准，并概述未来工作可能的方向。我们的代码已发布于 https://github.com/epo/CF22-Green-Hands
引用
@article{arxiv.2302.13784,
title = {Solution for the EPO CodeFest on Green Plastics: Hierarchical multi-label classification of patents relating to green plastics using deep learning},
author = {Tingting Qiao and Gonzalo Moro Perez},
journal= {arXiv preprint arXiv:2302.13784},
year = {2023}
}