面向金融交易的负责任 AI
机器学习
2022-06-07 v1 人工智能
摘要
AI 在金融中的应用日益依赖于负责任 AI 的原则。这些原则——可解释性、公平性、隐私性、问责性、透明性与稳健性——构成了对未来 AI 系统信任的基础。在本研究中，我们通过为在数值、类别与文本混合输入上训练的深度神经网络提供解释，来解决首要原则。该解释通过（1）使用 Shapley 加性解释（SHAP）的特征重要性分析，以及（2）文本聚类与决策树分类器的混合方法实现。随后，我们利用通过提取的解释获得的模型知识，将其暴露于定向规避攻击下以测试模型的鲁棒性。
引用
@article{arxiv.2206.02419,
title = {Towards Responsible AI for Financial Transactions},
author = {Charl Maree and Jan Erik Modal and Christian W. Omlin},
journal= {arXiv preprint arXiv:2206.02419},
year = {2022}
}