面向国家安全的知识集成知情 AI
人工智能
2022-02-08 v1
摘要
人工智能技术的现状有着可追溯到数十年前的丰富历史，并在当今爆炸性复兴之前经历过两次低谷，而此次复兴主要归功于数据驱动技术。尽管 AI 技术已经并持续成为主流，对跨领域与行业产生影响，但它并非没有若干缺陷、弱点以及引发不良后果的潜在可能。AI 技术繁多，方法与变体众多，但可依据其所捕获知识的程度与所需数据量简单分类；迄今为止 AI 中浮现出两个突出大类：(1) 主要且常仅依赖数据驱动、极少利用知识的技朮，与 (2) 主要利用知识且较少依赖数据的技术。如今，第三类同时利用数据与知识的类别正开始浮现，有人称之为“知情 AI（informed AI）”。这第三类在国家安全领域可成为改变游戏规则者，该领域有充足的科学与领域特定知识可供利用，而纯数据驱动 AI 可能导致严重不良后果。本报告分享了我们对利用数据以及原则性知识和/或实用知识的 AI 方法（我们称之为“知识集成知情 AI”）深入探索的发现。具体而言，我们回顾了深度学习与强化学习流水线中知识集成的启发性示例，并注意到其带来的性能提升。我们还讨论了知识集成知情 AI 各变体间一个明显的权衡空间，以及暗示有价值未来研究方向的已观察与显著问题。最重要的是，本报告提出了知识集成知情 AI 的优势将如何惠及国家安全领域。
引用
@article{arxiv.2202.03188,
title = {Knowledge-Integrated Informed AI for National Security},
author = {Anu K. Myne and Kevin J. Leahy and Ryan J. Soklaski},
journal= {arXiv preprint arXiv:2202.03188},
year = {2022}
}