AI 系统及其解释的创造性使用：来自保险业的案例研究
人机交互
2022-05-04 v2
摘要
近期工作已认识到在设计和评估人机交互与可解释 AI 方法时需要以人为中心的视角。然而，当前方法未能拦截和管理由不同利益相关群体与 AI 系统及可解释性方法交互所产生的意外用户行为。在本工作中，我们探索保险领域中 AI 与可解释性方法的使用。在一个包含不同角色与专业背景参与者的定性案例研究中，我们展示 AI 与可解释性方法在日常工作流中以创造性方式被使用，导致其预期用途与实际用途之间的偏离。最后，我们讨论了关于人机交互与可解释 AI 方法设计的一些建议，以管理风险并发挥意外用户行为的潜力。
引用
@article{arxiv.2205.00931,
title = {Creative Uses of AI Systems and their Explanations: A Case Study from Insurance},
author = {Michaela Benk and Raphael Weibel and Andrea Ferrario},
journal= {arXiv preprint arXiv:2205.00931},
year = {2022}
}
备注
Accepted at the ACM CHI 2022 Workshop on Human-Centered Explainable AI (HCXAI)