论AI代理治理的用户界面监管潜力
计算机与社会
2025-12-02 v1 人工智能
摘要
在延长时间范围内自主作用于环境的AI代理需要强大的治理干预来遏制其潜在的重大风险。先前的AI代理治理提案主要针对系统层面的安全措施（如提示注入监控器）或代理基础设施（如代理 ID）。在本工作中，我们探讨了一种补充方法：通过规范AI代理的用户界面来强制执行透明度和行为要求，从而在系统和/或基础设施层面上实现变更。具体而言，我们分析了22个现有代理系统，识别出在人类与代理交互和沟通中发挥关键作用的 UI 元素。随后，我们将这些元素综合为六大类高层次交互设计模式，这些模式具有监管潜力（例如要求代理记忆可编辑）。我们随后基于分析结果提出政策建议。我们的工作暴露了一种新的监管 surface，用于补充先前的AI代理治理提案。
引用
@article{arxiv.2512.00742,
title = {On the Regulatory Potential of User Interfaces for AI Agent Governance},
author = {K. J. Kevin Feng and Tae Soo Kim and Rock Yuren Pang and Faria Huq and Tal August and Amy X. Zhang},
journal= {arXiv preprint arXiv:2512.00742},
year = {2025}
}
备注
RegML workshop at NeurIPS 2025 (oral)