军事领域中的新颖性刻画
人工智能
2023-02-27 v1
摘要
利用具备人工智能(AI)的智能体时,一个关键因素是其对新颖性的鲁棒性。AI 智能体包括工程化或训练得到的模型。工程化模型包含工程师所知晓并认为重要的环境那些方面的知识。学习得到的模型基于通过训练数据建立的连接形成环境各方面的嵌入。然而在运行中,丰富的环境很可能呈现训练集中未见或工程化模型未考虑的挑战。更糟的是,对抗性环境易受对手改变。美国国防高级研究计划局(DARPA)的一项计划力求发展必要的科学,以开发和评估对新颖性鲁棒的智能体。在 AI 被赋予任务关键环境中的设想角色之前,该能力是必需的。作为开放世界新颖性的人工智能与学习科学(SAIL-ON)的一部分,我们将可能的军事领域新颖性类型映射到作为新颖性理论一部分开发的领域无关本体。从数学与本体论上刻画新颖性的可能空间,将使我们能够在相关军事环境中试验来自 DARPA SAIL-ON 计划的智能体设计。利用与实验室实验相同的技术,我们将能够度量智能体检测、刻画和适应新颖性的能力。
引用
@article{arxiv.2302.12314,
title = {Characterizing Novelty in the Military Domain},
author = {Theresa Chadwick and James Chao and Christianne Izumigawa and George Galdorisi and Hector Ortiz-Pena and Elias Loup and Nicholas Soultanian and Mitch Manzanares and Adrian Mai and Richmond Yen and Douglas S. Lange},
journal= {arXiv preprint arXiv:2302.12314},
year = {2023}
}
备注
Submitted to ICCRTS: International Command and Control Research and Technology Symposium. 8 pages. 5 Figures