探索 AI 价值对齐在协作构思中的影响：对感知、所有权与产出的作用
人机交互
2024-04-23 v3
摘要
基于 AI 的虚拟助手正越来越多地被用于支持日常构思任务。这些智能体中存在的价值观或偏见可能会以隐蔽的方式影响产出。它们也可能影响人们对借助这些 AI 智能体产生的想法的感知，并对 AI 工具的设计产生影响。我们探索了具有不同价值观的 AI 智能体对构思过程以及用户对想法质量、所有权、智能体能力和产出中体现的价值观的感知的影响。我们的研究要求 180 名参与者与具有不同价值观的 AI 智能体一起，针对一系列问题进行头脑风暴以提出实用解决方案。结果表明，基于价值对齐，在想法质量的自我评估和对智能体的感知方面没有显著差异；然而，生成的想法反映了 AI 的价值观，且所有权感受受到了影响。这凸显了 AI 价值观与人类构思之间复杂的相互作用，为未来支持 AI 的头脑风暴工具提出了需要仔细考量的设计建议。
引用
@article{arxiv.2402.12814,
title = {Exploring the Impact of AI Value Alignment in Collaborative Ideation: Effects on Perception, Ownership, and Output},
author = {Alicia Guo and Pat Pataranutaporn and Pattie Maes},
journal= {arXiv preprint arXiv:2402.12814},
year = {2024}
}