EaSyGuide：利用生成式大语言模型能力的ESG议题识别框架
计算与语言
2023-06-14 v2 人工智能
摘要
本文介绍了我们参与FinNLP-2023多语言环境、社会与公司治理议题识别（ML-ESG）共享任务的情况。该任务的目标是基于MSCI ESG评级指南定义的35个ESG关键议题对新闻文章进行分类。我们的方法聚焦于英语与法语子任务，采用了CerebrasGPT、OPT和Pythia模型，以及零样本与GPT3Mix增强技术。我们利用RoBERTa、DeBERTa和FinBERT等多种编码器模型，对其施加知识蒸馏与额外训练。我们的方法取得了优异结果，以F1值0.69在英语文本子任务中获第一名，以F1值0.78在法语文本子任务中获第二名。这些结果凸显了我们的方法在跨语言新闻文章ESG议题识别中的有效性。我们的发现有助于ESG主题的探究，并展示了利用先进语言模型进行ESG议题识别的潜力。
引用
@article{arxiv.2306.06662,
title = {EaSyGuide : ESG Issue Identification Framework leveraging Abilities of Generative Large Language Models},
author = {Hanwool Lee and Jonghyun Choi and Sohyeon Kwon and Sungbum Jung},
journal= {arXiv preprint arXiv:2306.06662},
year = {2023}
}
备注
Accepted at The IJCAI-2023 Workshop On Financial Technology and Natural Language Processing (FinNLP)