协作人机信任（CHAI-T）：人机协作中信任主动管理的过程框架
人机交互
2024-04-03 v1
摘要
协作人机（HAI）团队结合了人类和机器在持续团队互动中的独特技能和能力，利用各自的优势。在涉及频繁接触新颖性和不确定性的任务中，适应性强、富有创造力的人类与强大、精确的人工智能（AI）之间的协作有望带来新的解决方案和效率。用户信任对于建立和维持这些协作关系至关重要。传统AI信任的已有模型通常识别三类信任前因的贡献：人类用户特征、技术特征和环境因素。然而，HAI团队的出现要求理解人类信任时考虑任务情境和目标的特异性，整合互动过程，并捕捉信任在团队环境中随时间演变的方式。本文借鉴心理学和计算机科学文献，提出的协作HAI团队信任过程框架（CHAI-T）采用了早期模型建立的三方前因结构，同时纳入团队过程和绩效阶段以捕捉团队情境中信任固有的动态性。这些特性使得能够主动管理协作AI系统中的信任，对协作HAI团队的设计和部署具有实际意义。
引用
@article{arxiv.2404.01615,
title = {Collaborative human-AI trust (CHAI-T): A process framework for active management of trust in human-AI collaboration},
author = {Melanie J. McGrath and Andreas Duenser and Justine Lacey and Cecile Paris},
journal= {arXiv preprint arXiv:2404.01615},
year = {2024}
}
备注
36 pages, 2 figures