在基于人工智能的“黑箱”模型中融入领域知识以提升可解释性——以破产预测为例

尽管人工神经网络、支持向量机和集成方法等“黑箱”模型在许多学科中持续展现出优越性能，但由于模型缺乏可解释性与可说明性，它们在敏感学科（如金融、医疗）中的采用仍存疑。事实上，由于欧盟近期“解释权”法规规定用户可要求对算法决策背后的原因作出解释，以及美国政府新提出的“算法问责法案”将要求企业评估其机器学习系统是否存在偏见与歧视并采取纠正措施，未来“黑箱”模型的采用十分困难。顶尖的破产预测模型基于人工智能，且亟需更好的可解释性——即人工智能系统内部工作机制能以人类术语被解释的程度。尽管可解释人工智能是一个新兴研究领域，融入领域知识以提升可解释性或许是一种可行方案。在本工作中，我们展示了一种为破产预测收集和融入领域知识至“黑箱”模型的方法。实验表明，融入的领域知识使黑箱模型的输出更具可解释性与可说明性。