信任与安全
机器人学
2021-04-15 v1 人机交互
摘要
澳大利亚的机器人在遵守安全标准与风险管控实践方面有着悠久历史。本章阐述了机器人领域信任与安全的现状，包括社会期望、安全管理体系与系统安全，以及用于确保日益自主的机器人安全的新兴问题与方法。信任与安全的未来将把标准与迭代式、自适应和响应式的监管及保障方法相结合，以服务于机器人、自主系统与人工智能（RAS-AI）的多样化应用。机器人将需要新颖的技术与社会途径来实现保障，尤其是对于颠覆性创新。用户能够轻易更新算法与软件，从而改变系统性能，这意味着部署或销售前所进行的传统机器保障将不再可行。此外，高频次的更新意味着需要大量时间的传统认证将不再实用。为缓解这些困难，保障的自动化很可能是必需的；即某种“即服务式保障”（ASsurance-as-a-Service，ASaaS），其中 API 持续 ping 通 RAS-AI 以确保遵守各类规则、框架与行为期望。对此亦有例外，例如在 contested 或通信拒止环境中，或地下与海底采矿中；这些系统需要自身的风险评估与限制约束。事实上，自监控器已在某些系统中运行。为确保未来机器人系统的安全操作，澳大利亚需要投资于 RAS-AI 保障研究、利益相关方参与，以及稳健框架、方法、指南与政策的持续开发与完善，以教育并准备其技术开发者、认证者与广大民众。
引用
@article{arxiv.2104.06512,
title = {Trust and Safety},
author = {S. K. Devitt and R. Horne and Z. Assaad and E. Broad and H. Kurniawati and B. Cardier and A. Scott and S. Lazar and M. Gould and C. Adamson and C. Karl and F. Schrever and S. Keay and K. Tranter and E. Shellshear and D. Hunter and M. Brady and T. Putland},
journal= {arXiv preprint arXiv:2104.06512},
year = {2021}
}
备注
Approved for publication as a chapter in 'Robotics Roadmap for Australia V2' by Robotics Australia Network [forthcoming]. 31 pages, 10 Figures, 1 table