理解-工作负荷权衡的信息瓶颈刻画
人工智能
2023-10-13 v1 人机交互
摘要
人工智能（AI）的近期进展凸显了可解释人工智能（XAI）的必要性，以支持人类对相关系统的理解。考量影响解释效能的人因（如心智工作负荷与人类理解）是有效 XAI 设计的核心。XAI 现有工作已揭示由不同类型解释所引发的理解与工作负荷之间的权衡。通过抽象（相关问题特征的手工分组）解释复杂概念，已被证明能有效应对并平衡该工作负荷-理解权衡。本文中，我们通过信息瓶颈方法刻画工作负荷-理解平衡：一种自动生成最大化信息性并最小化复杂度的抽象的信息论方法。具体而言，我们通过人类受试者实验，建立工作负荷与复杂度之间以及理解与信息性之间的经验关联。这种人因与信息论概念间的经验联系，提供了工作负荷-理解权衡的重要数学刻画，从而支持用户定制化的 XAI 设计。
引用
@article{arxiv.2310.07802,
title = {An Information Bottleneck Characterization of the Understanding-Workload Tradeoff},
author = {Lindsay Sanneman and Mycal Tucker and Julie Shah},
journal= {arXiv preprint arXiv:2310.07802},
year = {2023}
}