你是否遵从 AI？——学习算法的个性化解释及其对员工遵从行为的影响
计算机与社会
2020-02-21 v1 人工智能
人机交互
机器学习
摘要
机器学习算法是人工智能（AI）的技术关键使能者。由于固有的复杂性，这些学习算法表现为黑箱且难以理解，从而影响遵从行为。因此，对此类可能显著影响员工任务绩效的制品之建议的遵从，仍属研究课题——而 AI 解释的个性化似乎在这方面是一个有前景的概念。在我们的工作中，我们假定，基于培训、领域知识和人口统计特征等各异背景，个体对学习算法具有不同的理解因而具有不同的心智模型。与个体心智模型相关的 AI 解释个性化，从而可成为影响遵从及进而员工任务绩效的一种手段。我们的初步结果已表明工业环境中个性化解释的重要性，并凸显这一研究努力的意义。
引用
@article{arxiv.2002.08777,
title = {Do you comply with AI? -- Personalized explanations of learning algorithms and their impact on employees' compliance behavior},
author = {NIklas Kuhl and Jodie Lobana and Christian Meske},
journal= {arXiv preprint arXiv:2002.08777},
year = {2020}
}
备注
Fortieth International Conference on Information Systems (ICIS) 2019, Munich, Germany. All Authors contributed equally in shared first authorship