架构比规模更重要：在SME计算约束下的金融问答检索与记忆增强比较研究
信息检索
2026-05-12 v2
摘要
人工智能(AI)和大型语言模型(LLM)的快速普及正在通过自然语言界面为报告、决策支持和自动推理提供金融分析能力， transforming financial analytics. 然而，关于不同LLM基于推理架构在真实金融工作流程中的性能，尤其是在面对小型和中型企业(SMEs)所面临的成本、准确性和合规性约束下的表现，存在有限的经验性理解。SMEs 通常在严苛的基础设施约束下运营，缺乏云端GPU 预算、专职AI 团队和API 级别的推理能力，使得架构效率成为首要关切。为确保实际相关性，我们引入了明确的SME约束评估环境，在该环境下所有实验均使用本地部署的8B 参数指令调优模型进行，不依赖云端规模基础设施。该设计在现实部署环境中隔离了架构选择的影响。我们系统比较了四种推理架构：基线LLM、检索增强生成(RAG)、结构化长期记忆和记忆增强式对话推理，在FinQA 和ConvFinQA 数据集上进行比较。结果显示，一致的架构反转现象：结构化记忆在确定性、操作数显式任务中提升精确度，而检索方法在对话式、参考隐式场景中超越记忆中心方法。基于这些发现，我们提出一种混合部署框架，动态选择推理策略以平衡数值准确性、可审计性和基础设施效率，为资源受限环境下的金融AI 采用提供了实际可行之路。
引用
@article{arxiv.2604.17979,
title = {Architecture Matters More Than Scale: A Comparative Study of Retrieval and Memory Augmentation for Financial QA Under SME Compute Constraints},
author = {Jianan Liu and Jing Yang and Xianyou Li and Weiran Yan and Yichao Wu and Penghao Liang and Mengwei Yuan},
journal= {arXiv preprint arXiv:2604.17979},
year = {2026}
}
备注
Accepted at the 2026 6th International Conference on Artificial Intelligence and Industrial Technology Applications (AIITA 2026), to be published by IEEE. 12 pages, 5 figures