动态变更规范的推理与规划
人工智能
2026-05-28 v1 符号计算
摘要
为安全地与人类交互，AI 代理必须既了解我们的规范，又在规划时考虑这些规范。然而，这种规范导向的规划较少被探索，仅限于人工代理间的社区，且忽视了规范的动态性。本文提出一种应用于人类-AI 环境中动态变更规范的规划指导方法。我们贡献了一个用于解决规范冲突的推定推理系统，以及一种将此类动态变更规范用作计划限制的做法。我们通过形式证明和实证实验（使用 AI 代理 SocialBot 在自然语言对话任务上）来理论地展示了我们的方法。
引用
@article{arxiv.2605.27622,
title = {Reasoning and Planning with Dynamically Changing Norms},
author = {Taylor Olson and Roberto Salas-Damian and Kenneth D. Forbus},
journal= {arXiv preprint arXiv:2605.27622},
year = {2026}
}
备注
8 pages, 1 figure, dataset included in anc