金融机构中生成式AI的模型风险管理
风险管理
2025-03-21 v1 机器学习
摘要
OpenAI的ChatGPT在2023年的成功促使金融企业探索生成式AI应用，以在金融行业的不同业务线中降低成本或驱动收入。虽然这些应用提供了强大的效率潜力，但它们引入了新的模型风险，主要是幻觉和毒性。作为高度受监管的实体，金融企业（主要是大型美国银行）有义务通过额外的测试和控制来增强其模型风险框架，以确保此类应用的安全部署。本文概述了生成式AI模型风险管理的关键方面，特别强调了模型验证中所需的额外实践。
引用
@article{arxiv.2503.15668,
title = {Model Risk Management for Generative AI In Financial Institutions},
author = {Anwesha Bhattacharyya and Ye Yu and Hanyu Yang and Rahul Singh and Tarun Joshi and Jie Chen and Kiran Yalavarthy},
journal= {arXiv preprint arXiv:2503.15668},
year = {2025}
}