当AI代理在线联手：由协作式LLM代理引发的金融欺诈风险

在本工作中，我们研究了由大语言模型（LLM）代理驱动的大规模多代理系统中集体金融欺诈的风险。我们探讨了代理是否能够在欺诈行为中合作，以及这种合作如何放大风险，以及哪些因素影响欺诈成功率。为支持此项研究，我们构建了MultiAgentFraudBench——一个基于真实在线交互情景的大规模基准，用于模拟金融欺诈场景。该基准覆盖28种典型的在线欺诈情景，涵盖公共和私域中的完整欺诈生命周期。我们进一步分析影响欺诈成功的关键因素，包括交互深度、活动水平以及细粒度协作失败模式。最后，我们提出了一系列缓解措施，包括向欺诈帖子和对话中添加内容级别警示，使用LLM作为监控器以阻止潜在的恶意代理，以及通过信息共享在社会层面培育团体韧性。值得注意的是，我们观察到恶意代理能够适应环境性干预。我们的发现凸显了多代理金融欺诈的真实风险，并为缓解这些风险提供了实用措施。代码已公开：https://github.com/zheng977/MutiAgent4Fraud。