航空航天控制中人机协作的安全、信任与伦理考量
计算机与社会
2023-11-16 v1 人工智能
系统与控制
系统与控制
摘要
设计安全、可信且符合伦理的 AI 在实践中或许是不可能的；然而，在航空航天等安全与任务关键型领域中，以安全、可信和符合伦理的使用为目的来设计 AI 是可行且必要的。AI 的安全、可信与符合伦理的使用常被混用；然而，一个系统可能被安全使用却不可信或不合伦理，可能有可信的使用却不安全或不合伦理，也可能有合伦理的使用却不安全或不可信。本手稿作为入门读物，旨在阐明这些概念之间细微的差异，特别关注人机协作在航空航天系统控制中的应用，其中人类可能处于决策回路之中、之上或之外。
引用
@article{arxiv.2311.08943,
title = {Safety, Trust, and Ethics Considerations for Human-AI Teaming in Aerospace Control},
author = {Kerianne L. Hobbs and Bernard Li},
journal= {arXiv preprint arXiv:2311.08943},
year = {2023}
}