AI 团队成员模型卡：高风险环境中人类-AI 熟悉方式比较研究
人工智能
2025-05-21 v1 人机交互
多智能体系统
摘要
我们比较了在高风险环境中让人类熟悉人工智能(AI) 团队成员的三种方法。进行一次随机对照的用户研究( n=60)，参与者要么阅读关于该代理的文档，要么在任务前与该代理一起训练，要么没有熟悉。结果显示，关于该代理的最有价值信息包括其决策算法的细节以及其相对于人类的优势和弱点。这些信息使熟悉组能够比对照组更快地形成复杂的团队策略。文档式熟悉导致最快采纳这些策略，但也会使参与者倾向于风险规避，从而阻碍获取高分。通过直接互动熟悉的参与者能够通过观察推断出大部分相同信息，并且更愿意冒险并尝试不同的控制模式，但报告对该代理内部过程的理解较弱。在个体参与者的风险容忍度与 AI 交互方式之间看到显著差异，这在设计人类-AI 控制界面时应予以考虑。基于我们的发现，我们建议一种将 AI 文档、结构化现场培训和探索性互动相结合的人类-AI 团队熟悉方法。
引用
@article{arxiv.2505.13773,
title = {Model Cards for AI Teammates: Comparing Human-AI Team Familiarization Methods for High-Stakes Environments},
author = {Ryan Bowers and Richard Agbeyibor and Jack Kolb and Karen Feigh},
journal= {arXiv preprint arXiv:2505.13773},
year = {2025}
}
备注
Submitted to IEEE RO-MAN 2025 (under review). 8 pages, 7 figures