面向自主机器人操作的实时神经符号伦理治理

伦理决策治理已成为在以人为中心且安全敏感环境中运行的自主机器人系统的关键要求。本文提出了一种实时神经符号伦理治理方案，旨在为自主机器人操作任务提供风险感知的监督控制。该框架集成了基于 Transformer 的伦理推理、概率伦理风险场建模以及基于阈值的覆盖控制机制。语言导向的伦理意图推理能力通过使用在 ETHICS 常识数据集上训练的微调 DistilBERT 模型从自然语言任务描述中学习。随后，从预测的不安全动作概率、置信度不确定性和概率方差中推导出连续的伦理风险指标，以支持自适应决策过滤。通过包含不同人类proximity水平和操作风险的仿真自主机器人臂任务场景验证了所提方法的有效性。实验结果表明，模型具有稳定的收敛性、可靠的伦理风险判别能力以及在不显著降低任务执行效率的前提下 improved of 安全感知决策。该神经符号架构相较于纯数据驱动的安全过滤器提供了更好的可解释性，使实时控制循环内的伦理推理能够透明化。本文的发现表明，伦理决策治理可有效地作为自主机器人系统的动态监督风险层进行建模，并具有广泛适用于更广泛的网络物理系统和帮助机器人领域的潜在应用前景。