概念：AI控制机器人系统的动态风险评估
机器人学
2024-01-26 v1
摘要
AI控制的机器人系统对人类工作者和环境构成风险。经典的风险评估方法无法充分描述此类黑箱系统。因此，需要新的方法来对此类AI控制系统进行动态风险评估。在本文中，我们介绍了一种针对AI控制机器人系统的新型动态风险评估方法的概念。该方法由五个模块流水线化构成：(i) 数据记录，记录给定仿真的数据；(ii) 技能检测，利用深度学习技术自动检测执行的技能；(iii) 行为分析，创建机器人系统的行为画像；(iv) 风险模型生成，将行为画像和包含机器人硬件组件故障概率的风险数据自动转换为高级混合风险模型；(v) 风险模型求解器，用于对所生成的混合风险模型进行数值评估。
引用
@article{arxiv.2401.14147,
title = {Concept: Dynamic Risk Assessment for AI-Controlled Robotic Systems},
author = {Philipp Grimmeisen and Friedrich Sautter and Andrey Morozov},
journal= {arXiv preprint arXiv:2401.14147},
year = {2024}
}