伦理、交战规则与人工智能：基于大型Transformer语言模型的神经叙事映射
计算与语言
2022-02-08 v1 人工智能
摘要
判定军事单位是否正确理解命令并妥善执行，这一难题历来困扰着军事规划者。OpenAI的GPT系列等先进语言模型的出现为应对该问题提供了新可能。本文提出一种机制，利用大型语言模型的叙事输出，生成此类模型（如GPT-3）权重中潜在关系的图示或“映射”。所得的“神经叙事映射”（NNMs）旨在揭示模型中信息、观点与信念的组织方式，进而提供在物理距离语境下理解意图与响应的手段。本文先讨论信息空间映射的一般问题，随后在OpenAI的GPT-3语言模型语境下给出具体实现，用于判定下属在高风险情境中是否遵循指挥官意图。下属在NNM中的位置提供了一种评估其相对于指挥官意图的新能力。我们表明，不仅能判定二者在叙事空间中是否邻近，还能判定其取向及所处“轨迹”。结果显示，我们的方法能生成高质量映射，并展示了更广义上评估意图的新途径。
引用
@article{arxiv.2202.02647,
title = {Ethics, Rules of Engagement, and AI: Neural Narrative Mapping Using Large Transformer Language Models},
author = {Philip Feldman and Aaron Dant and David Rosenbluth},
journal= {arXiv preprint arXiv:2202.02647},
year = {2022}
}
备注
18 Pages, 13 figures