人设进化：设计伦理的基于LLM的对话式智能体人设
人机交互
2025-03-03 v1 人工智能
机器学习
摘要
大型语言模型（LLM）的出现彻底变革了对话式用户界面（CUI），使其能够在社会科学到医疗等多个领域实现更动态、更具情境感知性且更贴近人类的交互。然而，LLM-based人设的快速采纳也引发了一系列伦理和实际关切，包括偏见、操纵以及不可预见的社会后果。与传统CUI不同，LLM-based人设的行为是从广泛数据集中动态生成的，其行为模式难以预测和管控。本工作坊旨在通过促进CUI社区与更广泛的AI社区之间的跨学科对话，弥合两者之间的差距。我们将邀请研究人员、设计师和实践者，探讨最佳实践，制定伦理准则，推动确保交互透明、包容且以用户为中心的框架。通过协同应对这些挑战，我们致力于以符合社会价值观和期望的方式塑造LLM驱动的CUI的未来。
引用
@article{arxiv.2502.20513,
title = {Personas Evolved: Designing Ethical LLM-Based Conversational Agent Personalities},
author = {Smit Desai and Mateusz Dubiel and Nima Zargham and Thomas Mildner and Laura Spillner},
journal= {arXiv preprint arXiv:2502.20513},
year = {2025}
}