重要的信息：探索受算法决策影响人群的信息需求

每一个对人类做出决策的 AI 系统都有一群直接受这些决策影响的利益相关者。然而，AI 系统的解释很少涉及这一利益相关者群体的信息需求，而他们通常是 AI 新手。这在传达的信息与对系统决策（如领域专家和决策对象）至关重要信息之间造成了差距。为了解决这个问题，我们提出了“XAI 新手问题库”，它是 XAI 问题库的扩展，包含来自两个用例（就业预测和健康监测）中 AI 新手的信息需求目录。该目录涵盖了数据、系统上下文、系统使用和系统规范等类别。我们通过基于任务的访谈收集了信息需求，参与者在访谈中就两个 AI 系统提出问题以决定是否采用它们，并获得了口头解释作为回应。我们的分析表明，参与者在收到解释后信心有所增加，但他们的理解面临挑战。这包括难以定位信息、难以评估自身的理解，以及试图将理解外包给他人。此外，参与者对系统风险和收益的先验感知影响了他们的信息需求。感知高风险的参与者寻求关于系统部署背后意图的解释，而感知低风险的参与者则更倾向于询问系统的运行方式。我们的工作旨在通过突出 AI 新手的信息需求、目标和挑战，支持将他们纳入可解释性工作中。我们将研究结果总结为五项关键启示，可为未来面向非专业利益相关者群体的解释设计提供参考。