用于人类训练、辅助与可解释性的指导式人工智能（AI）

我们提出了一种基于神经网络“指导”概念的新型可解释人工智能（XAI）方法。在本案例研究中，我们展示了超人类神经网络如何指导人类受训者，作为传统可解释人工智能方法的替代方案。具体而言，AI检查人类行为，并计算出能带来更优表现的人类策略变体。使用约翰霍普金斯大学应用物理实验室（JHU/APL）为合作纸牌游戏《花火》开发的AI玩家进行的实验表明，该技术在提升人类表现的同时，对可解释性做出了独特贡献。指导式人工智能的一个关注领域是人类实际策略与其声称使用的策略之间可能出现的显著差异。这种不准确的自我评估为可解释人工智能带来了障碍，因为对AI策略的解释可能无法被人类接收者正确理解或实施。我们开发并正在测试一种新颖的指导式人工智能方法，该方法通过观察人类行为来估计人类策略。借助神经网络，这允许直接计算改善人类策略所需的权重变化，以更好地模拟更成功的AI。在受到约束（例如稀疏性）的情况下，这些权重变化可以被解释为对人类策略的推荐更改（例如，“更重视A，更不重视B”）。来自AI的此类指导既能帮助人类更好地执行任务，也能帮助其更好地理解、预测和纠正AI的行为。我们将展示关于AI指导在《Hanako》游戏中改善人类决策和人机团队协作能力的结果。