超人类游戏AI披露：专业知识和情境对信任与公平性的影响
人机交互
2025-04-08 v2 人工智能
计算与语言
计算机与社会
新兴技术
摘要
随着人工智能在特定任务上超越人类表现，披露超人类能力在公平性、问责制和信任方面提出了独特挑战。然而，此类披露对不同用户态度和行为的影响仍不清楚，尤其是关于可能的负面反应，如劝 discouragement 或过度依赖。本文通过利用 Persona Cards：一组经过伦理委员会批准的验证性、标准化的合成人物，用于模拟多样化用户反应和公平性观点。我们进行了为期N=32的伦理委员会批准的研究，利用这些人物来调查能力披露如何影响超人类游戏AI在StarCraft II竞争情境中的行为。我们的结果表明，透明度是双刃剑：尽管披露可能缓解疑虑，但也会在合作情境中引发挫败感和战略退缩，或在竞争情境中导致过度依赖。经验丰富或具竞争意识的玩家将披露解读为确认对手不可战胜，转向亚optimal目标。我们发布了Persona Cards数据集，包括轮廓、提示、交互日志和协议，以促进可重复的人类对齐AI设计研究。本工作表明，透明度并非灵丹妙药；成功地利用披露来增强信任和问责制，需谨慎地根据用户特征、领域规范和特定公平性目标进行调整。
引用
@article{arxiv.2503.15514,
title = {Superhuman Game AI Disclosure: Expertise and Context Moderate Effects on Trust and Fairness},
author = {Jaymari Chua and Chen Wang and Lina Yao},
journal= {arXiv preprint arXiv:2503.15514},
year = {2025}
}