船舶碰撞规避的可解释人工智能：解码决策过程与行为意图

本研究开发了用于船舶碰撞规避的可解释人工智能。首先，提出了由子任务评估网络组成的批评网络，用于单独评估碰撞规避中每个子任务，以阐明AI决策过程。此外，尝试通过Q值分析和注意力机制来辨识行为意图。前者通过检查AI动作导致的Q值增量来关注解释意图，而后者则将其他船舶在决策过程中的重要性纳入学习目标。将AI在碰撞规避中的行为意图通过结合感知到的碰撞危险与对其他船舶的注意力程度进行可视化。通过数值实验评估了所提出的方法。结果表明，所开发的AI能够在各种拥堵水平下安全地避免碰撞，并且AI的决策过程被人类理解。该方法不仅有助于理解基于深度强化学习的控制器/系统在船舶碰撞规避任务中的决策过程，也可扩展到任何包含子任务的任务。