基于轻量级层次化 Transformer 网络的财务报告可解释风险评估

每家在美国上市的公司都需提交年度 10-K 报告，包含关于公司财务健康和风险的关键信息。我们提出了 Tiny eXplainable Risk Assessor (TinyXRA)，一个轻量级且可解释的基于 Transformer 的模型，用于自动从这些报告中评估公司风险。不同于仅依赖超额收益标准差（按 Fama-French 模型调整）进行风险评估的 prior work，后者对上下风险都一致惩罚；TinyXRA 则综合考虑偏度、峰度以及 Sortino 比率，进行更全面的风险评估。我们采用 TinyBERT 作为编码器高效处理冗长的财务文档，配合 novel 的基于注意力的动态词云机制，提供直观的风险可视化，同时过滤无关术语。这种轻量级设计确保了在计算资源受限的生产环境中，对数千份财务文档实现实时处理。我们采用三元损失进行风险四分位数分类，较文献中已有的两两损失方法在捕捉风险差异的方向性和幅度方面取得改进。TinyXRA 在覆盖 2013-2024 年的atasets 上实现了七年测试年份的最新预测准确率，同时提供透明且可解释的风险评估。我们进行了全面的消除实验，以定量评估我们的贡献和模型解释——通过系统性移除高度注意的词语和句子，以及通过审慎检视解释的连贯性。本文以发现、实际意义、局限性以及未来研究方向为结论。我们的代码已公开于 https://github.com/Chen-XueWen/TinyXRA。