欺骗性人工智能生态系统：以ChatGPT为例
计算机与社会
2023-06-27 v1 人工智能
人机交互
摘要
ChatGPT作为一种人工智能聊天机器人，因其生成类人回复的能力而广受欢迎。然而，这一特性带来了若干风险，最显著的是其欺骗性行为，例如向用户提供误导性或虚构信息，可能进一步引发伦理问题。为更好地理解ChatGPT对我们社会、文化、经济与政治互动的影响，亟需考察ChatGPT在现实世界中的运作方式，其中各种社会压力影响其开发与部署。本文强调需要将ChatGPT作为其所嵌入生态系统的一部分、以“在野”（in the wild）方式进行研究，并高度重视用户参与。我们审视了源于ChatGPT欺骗性类人互动的伦理挑战，并提出了开发更透明、可信聊天机器人的路线图。我们方法的核心在于主动风险评估与用户参与塑造聊天机器人技术未来的重要性。
引用
@article{arxiv.2306.13671,
title = {Deceptive AI Ecosystems: The Case of ChatGPT},
author = {Xiao Zhan and Yifan Xu and Stefan Sarkadi},
journal= {arXiv preprint arXiv:2306.13671},
year = {2023}
}
备注
6 pages, To appear in the Proceedings of the 2023 ACM conference on Conversational User Interfaces (CUI 23)