我与聊天机器人的未来：一种情景驱动、以用户为中心的AI影响预见方法

作为一种没有具体预定义目的的通用技术，个人聊天机器人可以根据个人的需求、情境和任务用于各种目标，因此可能影响多种价值观、人群和社会环境。传统的风险评估方法面临若干挑战：缺乏明确的技术目的、缺乏明确的价值观导向、用途的异质性，以及难以让公民自身从个体生活现实的角度积极参与预见影响。在本文中，我们利用大规模情景写作作为一种预见AI影响的方法，以应对这些挑战。情景方法的优势在于能够吸引个体用户，激发他们思考聊天机器人可能如何影响他们的现实，从而根据异质公民的文化和社会嵌入性收集不同的影响情景。在实证方面，我们要求106名美国参与者撰写关于基于AI的个人聊天机器人对个人和社会未来影响（无论是期望的还是不期望的）的短篇虚构故事，并请受访者解释这些影响为何重要以及它们如何与他们的价值观相关联。在分析过程中，我们绘制了这些影响，并根据情景作者的社会人口学特征以及与AI相关的态度进行了分析。我们表明，我们的方法在以下方面是有效的：（1）识别和绘制基于AI的个人聊天机器人的期望和不期望影响，（2）将这些影响与对个人重要的价值观联系起来，以及（3）检测影响预见的社会人口学和AI态度相关差异。