更安全的对话式 AI 作为用户愉悦感的来源
人机交互
2023-04-21 v1 人工智能
摘要
本工作探讨了审核对用户体验对话式 AI 系统愉悦感的影响。尽管大型语言模型（LLMs）近期的进展催生了高度 capable 的对话式 AI，并日益部署于真实场景，但人们对 AI 安全以及需要审核系统以鼓励安全语言并防止伤害的担忧与日俱增。然而，一些用户认为当前的审核方法限制了该技术、损害了自由表达，并削弱了技术所交付的价值。本研究采取无偏立场，表明审核未必会减损用户愉悦感。过于严厉的审核似乎确有有害效应，但被审核得更安全的模型可带来更好的用户体验。通过在 Chai 平台上部署多种对话式 AI，本研究发现一定程度的审核与安全系统设计可提升用户留存率。这些结果证明了以既负责任又聚焦服务用户的方式恰当定义模型中安全性的重要性。
引用
@article{arxiv.2304.09865,
title = {Safer Conversational AI as a Source of User Delight},
author = {Xiaoding Lu and Aleksey Korshuk and Zongyi Liu and William Beauchamp and Chai Research},
journal= {arXiv preprint arXiv:2304.09865},
year = {2023}
}