可解释人工智能与金融算法顾问的采纳：一项实验研究
人机交互
2021-06-10 v3 人工智能
计算机与社会
机器学习
摘要
我们研究从人类或算法顾问处接收建议，并辅以五类局部与全局解释标注，是否对采纳意愿、支付意愿以及对金融 AI 顾问的信任产生影响。我们利用一个独特的实验框架比较随时间及在多种关键情境下的差异，该框架中参与者玩一款具有真实货币后果的基于网页的游戏。我们观察到，在初始阶段对模型基于准确性的解释带来更高的采纳率。当模型表现完美时，解释类型对采纳的重要性降低。使用更精细的基于特征或基于准确性的解释，有助于大幅减缓模型失败时的采纳率下降。此外，使用自动驾驶模式显著提升了采纳率。被分配至带解释的 AI 标注建议的参与者，相比带“无解释”替代项的 AI 标注建议，愿意为建议支付更多。这些结果补充了关于 XAI 对算法采纳与信任重要性的文献。
引用
@article{arxiv.2101.02555,
title = {Explainable AI and Adoption of Financial Algorithmic Advisors: an Experimental Study},
author = {Daniel Ben David and Yehezkel S. Resheff and Talia Tron},
journal= {arXiv preprint arXiv:2101.02555},
year = {2021}
}
备注
accepted: AIES '21