面向海事自主水面船舶（MASS）的可解释 AI：自适应界面与可信人机协作
人机交互
2025-09-22 v1 人工智能
计算机与社会
摘要
随着人工智能、传感和连接技术的进步，海事领域的自主导航正在加速发展。不透明的决策和校准不良的人机自动化交互仍然是安全采用的关键障碍。本文综合了 100 项关于海事自主水面船舶（MASS）自动化透明度的研究，涵盖态势感知（SA）、人因、界面设计和法规。我们将制导-导航-控制栈映射到基于岸的操作模式——远程监督（RSM）和远程控制（RCM）——并识别在交接和应急回路中人类不安全控制行为集中发生的位置；总结证据表明透明度特征（决策依据、替代方案、置信度/不确定性和规则合规性指标）能增进理解并支持信任校准，尽管可靠性和可预测性通常在信任中占主导地位；提炼三个层面的透明度设计策略：传感器/SA 获取与融合、HMI/eHMI 呈现（文本/图形叠加、颜色编码、对话式和沉浸式 UI）以及面向工程师的过程（弹性交互设计、验证和标准化）。我们集成了人类不安全控制行为识别方法（STPA-Cog + IDAC）、定量信任/SA 评估和操作员工作负荷监控，并概述了监管和基于规则的影响，包括 COLREGs 形式化和航线交换。我们最后提出了一个自适应透明度框架，将操作员状态估计与可解释决策支持相耦合，以减少认知过载并改善接管时效性。该综述强调了可操作的指标显示（例如 CPA/TCPA 风险条、鲁棒性热力图）、透明的模型输出（规则可追溯性、置信度）和训练流水线（HIL/MIL、仿真）作为更安全的 MASS 操作的近期杠杆。
引用
@article{arxiv.2509.15959,
title = {Explainable AI for Maritime Autonomous Surface Ships (MASS): Adaptive Interfaces and Trustworthy Human-AI Collaboration},
author = {Zhuoyue Zhang and Haitong Xu},
journal= {arXiv preprint arXiv:2509.15959},
year = {2025}
}