ASDA：面向金融推理的自动技能蒸馏与适应
计算与语言
2026-03-18 v1 人工智能
计算工程、金融与科学
摘要
将大语言模型（LLM）适应专门金融推理通常需要高昂的微调，后续会产生模型锁定的专业知识。虽然训练自由的替代方案已涌现，但我们的实验表明，领先方法（GEPA 和 ACE）仅在 FAMMA 金融推理基准上实现有限提升，暴露了针对复杂多步骤领域推理的非结构化文本优化的局限。我们引入自动技能蒸馏与适应（ASDA）框架，通过迭代纠错学习自动生成结构化技能制品，无需修改模型权重。教师模型分析学生模型在金融推理任务中的错误，按子领域和错误类型聚类，并合成包含推理程序、代码模板和 worked 示例的技能文件，这些文件在推理期间被动态注入。经 FAMMA 测试，ASDA 在算术推理上提升最高可达 +17.33%，在非算术推理上提升 +5.95%，显著优于所有训练自由基线。 resulting 技能制品具有可读性强、可版本控制且兼容 Agent Skills 开放标准，为拥有标记化领域数据集的任何组织提供一条在无需访问模型权重或重新训练的情况下实现领域适应的实用且可审计的路径。
引用
@article{arxiv.2603.16112,
title = {ASDA: Automated Skill Distillation and Adaptation for Financial Reasoning},
author = {Tik Yu Yim and Wenting Tan and Sum Yee Chan and Tak-Wah Lam and Siu Ming Yiu},
journal= {arXiv preprint arXiv:2603.16112},
year = {2026}
}