面向联合人类-AI 推理与价值对齐的对话
人工智能
2024-05-29 v1
摘要
我们认为，使人类-AI 能够进行对话以支持联合推理（即“询问”）对于确保AI决策与人类价值观和偏好相吻合至关重要。特别是，我们指出逻辑基础的论证和对话模型，建议取代侧重说服性对话，转而关注询问性对话，并提出联合询问所提出的独特挑战。鉴于大型语言模型（LLM）性能的近期显著进步，以及其被用于决策的预期增加，本文为支持联合人类-LLM推理任务提供了路线图，这些任务在伦理上具有重要意义，因而需要决策符合价值观。
引用
@article{arxiv.2405.18073,
title = {Towards Dialogues for Joint Human-AI Reasoning and Value Alignment},
author = {Elfia Bezou-Vrakatseli and Oana Cocarascu and Sanjay Modgil},
journal= {arXiv preprint arXiv:2405.18073},
year = {2024}
}