人在回路的新颖性生成
人工智能
2023-06-14 v2
摘要
开发能够克服新颖、意外情况的人工智能方法是一个困难且未解决的问题。推进新颖性适应技术水平的挑战之一是缺乏用于评估面对新情况性能的测试框架。近期在 Science Birds 和 Monopoly 等领域的新颖性生成方法利用搜索过程中的人类领域专业知识来发现新新颖性。此类方法在生成新颖性之前引入人类指导，并产生可直接加载到模拟环境中的新颖性。我们提出了一种新颖性生成新方法，使用环境（包括模拟领域）的抽象模型，无需依赖领域相关的人类指导来生成新颖性。一个关键结果是能够生成更大、通常无限的新颖性空间，其权衡是需要在生成后涉及人类指导来选择和过滤新颖性。我们使用开源新颖性生成库描述了我们的人在回路新颖性生成过程，以在两个领域——Monopoly 和 VizDoom 中测试基线智能体。我们的结果表明，人在回路方法使用户能够在 4 小时内为 Monopoly 和 VizDoom 领域开发、实现、测试和修订新颖性。
引用
@article{arxiv.2306.04813,
title = {Human in the Loop Novelty Generation},
author = {Mark Bercasio and Allison Wong and Dustin Dannenhauer},
journal= {arXiv preprint arXiv:2306.04813},
year = {2023}
}