针对金融文本中 ESG 活动检测的大型语言模型优化
人工智能
2025-12-17 v2 计算工程、金融与科学
计算与语言
计算机与社会
信息检索
摘要
将环境、社会和治理（ESG）因素纳入企业决策是可持续金融的基本方面。然而，确保商业实践与不断发展的监管框架保持一致仍然是一个持续的挑战。利用 AI 驱动的解决方案自动评估可持续发展报告和非财务披露与特定 ESG 活动的一致性，可以极大地支持这一过程。然而，由于通用大型语言模型（LLM）在特定领域语境中的局限性，以及结构化、高质量数据集的稀缺性，这项任务仍然复杂。在本文中，我们研究了当代 LLM 识别与环境活动相关文本的能力。此外，我们证明了通过在原始数据和合成生成数据的组合上进行微调，可以显著提升其性能。为此，我们引入了 ESG-Activities，一个包含 1,325 个根据欧盟 ESG 分类法分类的标注文本片段的基准数据集。我们的实验结果表明，在 ESG-Activities 上进行微调可显著提高分类准确率，其中 Llama 7B 和 Gemma 7B 等开放模型在特定配置下优于大型专有解决方案。这些发现对于寻求通过高级自然语言处理技术提升 ESG 透明度与合规性的金融分析师、政策制定者和 AI 研究人员具有重要意义。
引用
@article{arxiv.2502.21112,
title = {Optimizing Large Language Models for ESG Activity Detection in Financial Texts},
author = {Mattia Birti and Andrea Maurino and Francesco Osborne},
journal= {arXiv preprint arXiv:2502.21112},
year = {2025}
}
备注
Published in the Proceedings of the ACM International Conference on AI in Finance (ICAIF). ACM version