可操作 AI：赋能非专家理解与配置 AI 系统
人机交互
2025-03-11 v1 人工智能
摘要
人类与 AI 系统之间的交互引发了人们如何理解 AI 系统的问题。该问题已通过可解释 AI、源于用户领域专业知识的可解释性，或在稳定环境中与 AI 协作等方式得到解决。在缺乏这些要素的情况下，我们探讨了可操作 AI（Actionable AI）的设计，允许非专家配置黑盒智能体。在本文中，我们使用一个 AI 驱动的倒立摆游戏进行实验，并观察了 22 对参与者通过直接操作对其进行配置。我们的研究结果表明，在不确定条件下，非专家能够达到良好的性能水平。通过影响智能体的行为，他们展现出对智能体的操作性理解，这被证明足以实现其目标。基于此，我们得出了设计可操作 AI 系统的启示。最后，我们提出将可操作 AI 作为开放基于 AI 的智能体访问权限的一种方式，赋予终端用户影响此类智能体以实现其自身目标的能动性。
引用
@article{arxiv.2503.06803,
title = {Actionable AI: Enabling Non Experts to Understand and Configure AI Systems},
author = {Cécile Boulard and Sruthi Viswanathan and Wanda Fey and Thierry Jacquin},
journal= {arXiv preprint arXiv:2503.06803},
year = {2025}
}