智能体式对话AI是否应改变我们对伦理的思考方式？刻画一种以尊重为中心的交互伦理
计算与语言
2024-05-17 v2 人工智能
人机交互
摘要
随着基于大语言模型（LLMs）的对话智能体日益普及，我们需要确保其行为合乎伦理且恰当。该领域的工作主要围绕“HHH”准则展开：使输出更有帮助、更诚实，并避免有害（有偏见、有毒或不准确）的陈述。虽然当将LLM智能体视为纯粹的媒介或输出生成系统时，这种语义焦点是有用的，但它未能解释那些可能使同一言语行为在不同社交情境中显得或多或少失礼或考虑不周的语用因素。随着向智能体式人工智能的推进，系统在追求目标和在现实世界中执行行动方面变得越来越主动，考虑交互的语用学变得至关重要。我们提出一种以关系和情境因素为中心的交互式伦理方法。我们探讨了作为一个社会行动者的系统，在（一系列）交互中尊重地对待个体意味着什么。我们的工作预见了一系列在具体社会交互层面基本未被探索的风险，并提供了切实可行的建议，以帮助智能体式LLM技术善待人类。
引用
@article{arxiv.2401.09082,
title = {Should agentic conversational AI change how we think about ethics? Characterising an interactional ethics centred on respect},
author = {Lize Alberts and Geoff Keeling and Amanda McCroskery},
journal= {arXiv preprint arXiv:2401.09082},
year = {2024}
}