AuditWen：面向审计领域的开源大型语言模型
计算与语言
2024-10-16 v1 人工智能
计算机与社会
摘要
智能审计代表了现代审计实践的重要进步，提升了审计质量和效率。随着大型语言模型（LLM）的兴起，AI领域对智能模型的审计潜力巨大。然而，应用在审计领域的通用LLM面临专业知识缺失和数据偏见等挑战。为此，本研究通过构建来自审计领域的指令数据，对Qwen进行微调，推出AuditWen——一个开源审计LLM。我们首先概述了LLM在审计中的应用场景，并提炼出塑造审计专用LLM开发需求的要素。随后，我们通过构建包含28k条指令数据（涵盖15个审计任务和3个层次）的方法，对Qwen进行微调，实现AuditWen。在评估阶段，我们构建了一个覆盖关键审计任务的3k条指令基准测试。通过该基准，我们将AuditWen与其他来自信息抽取、问答和文档生成的LLM进行比较。实验结果显示，AuditWen在问题理解和答案生成方面表现优异，证明其作为审计工具具有即时价值。
引用
@article{arxiv.2410.10873,
title = {AuditWen:An Open-Source Large Language Model for Audit},
author = {Jiajia Huang and Haoran Zhu and Chao Xu and Tianming Zhan and Qianqian Xie and Jimin Huang},
journal= {arXiv preprint arXiv:2410.10873},
year = {2024}
}
备注
18 pages,1 figures