通过GPT-4的隐式规则学习进行ESG分类
计算与语言
2024-03-25 v1
摘要
环境、社会和治理（ESG）因素被广泛用作更高的投资回报指标。因此，人们正在持续努力利用语言模型自动化ESG评估，以从海量网络文本中轻松提取信号。然而，由于评级机构对其评估指标保密，近期的方法都面临训练数据不足的问题。本文研究了像GPT-4这样的最先进语言模型是否可以通过提示、思维链推理和动态上下文学习等策略，被引导去对齐未知的ESG评估标准。我们在未使用提供的训练数据更新模型的情况下，在韩语共享任务ML-ESG-3影响类型赛道中获得了第二名，从而证明了这些方法的有效性。我们还探索了调整提示如何影响语言模型处理金融任务的能力，并利用了具有公开权重的较小模型。我们观察到，更长的通用预训练与金融下游任务性能的提升相关。我们的发现展示了语言模型在缺乏明确训练样本的情况下驾驭复杂、主观评估指南的潜力，揭示了为金融下游任务提供免训练解决方案的机会。
引用
@article{arxiv.2403.15040,
title = {ESG Classification by Implicit Rule Learning via GPT-4},
author = {Hyo Jeong Yun and Chanyoung Kim and Moonjeong Hahm and Kyuri Kim and Guijin Son},
journal= {arXiv preprint arXiv:2403.15040},
year = {2024}
}
备注
Accepted as Shared Track Paper at 7th FinNLP Workshop @ LREC-COLING 2024