可解释的人工智能用于海上自主舰船（MASS）：自适应界面和可信赖的人机合作

于红博

摘要: 在海洋领域，自主导航随着人工智能、传感技术和连接性的进步而加速发展。不透明的决策制定和不完善的人机互动仍然是安全采用的关键障碍。本文综合了100项关于海上自主航行船舶（MASS）的自动透明度研究，涵盖态势感知（SA）、人因素、界面设计和监管。我们（i）将导航控制指导层次结构映射到基于岸的操作模式--远程监控（RSM）和远程控制（RCM）--并确定了人类不安全控制行为（Human-UCAs）在交接和紧急环节中的集中点；（ii）总结证据表明透明度特征（决策理由、替代方案、信心/不确定性和规则遵从指标）提高了理解和支持信任校准，尽管可靠性和可预测性经常主导信任；（iii）提炼了三个层面的透明度设计策略：传感器/SA采集和融合、HMI/eHMI呈现（文本/图形叠加、颜色编码、对话和沉浸式用户界面）以及工程师面向过程（弹性交互设计、验证和标准化）。我们整合了用于人类不安全控制行为识别（STPA-Cog+IDAC）、定量信任/SA评估和操作员工作负荷监测的方法，并概述了包括COLREGs正式化和航线交换在内的监管和规则相关影响。我们最后提出了一个自适应透明度框架，将操作员状态估计与可解释的决策支持相结合，以减少认知负荷并提高接管及时性。这篇评论突出了可操作的效益显示（如CPA/TCPA风险条、鲁棒性热图）、透明的模型输出（规则可追溯性、信心）和培训管道（HIL/MIL、模拟）作为更安全的MASS运营的近期杠杆。

更新时间: 2025-09-19 13:18:54

领域: cs.HC,cs.AI,cs.CY

下载: http://arxiv.org/abs/2509.15959v1