面向战术作业的人工智能驱动的人机-自主体系协作：提出的框架、挑战与未来方向
人机交互
2024-11-18 v1 人工智能
计算机与社会
摘要
人工智能(AI)技术，特别是机器学习技术，正快速变革战术作业，增强人类决策能力。本文探讨了AI驱动的人机-自主体系协作(HAT)作为一种变革性方法，重点在于如何在复杂环境中赋能人类决策。尽管信任和可解释性仍然是重大挑战，但我们的探索聚焦于AI驱动HAT的潜力，以变革性方式提升战术作业。通过提升情境意识并支持更明智的决策，AI驱动HAT可增强此类作业的有效性和安全性。为此，我们提出了一套全面的框架，涵盖AI驱动HAT的关键组件，包括信任与透明度、人类与AI之间的功能分配、情境意识以及伦理考量。该提议框架可为该领域的未来研究与开发奠定基础。通过识别和讨论该框架中的关键研究挑战和知识空白，本工作旨在引导AI驱动HAT的发展，以优化战术作业。我们强调 Developing 可扩展且具有伦理导向的AI驱动HAT系统至关重要，这些系统确保无缝的人机协作，优先考虑伦理问题，通过可解释AI(XAI)技术提升模型透明度，并有效管理人类操作员的认知负荷。
引用
@article{arxiv.2411.09788,
title = {AI-Driven Human-Autonomy Teaming in Tactical Operations: Proposed Framework, Challenges, and Future Directions},
author = {Desta Haileselassie Hagos and Hassan El Alami and Danda B. Rawat},
journal= {arXiv preprint arXiv:2411.09788},
year = {2024}
}
备注
Submitted for review to the Proceedings of the IEEE