多轮人类-人工智能协作：以用户指定需求为导向
机器学习
2026-02-25 v2
摘要
随着人类越来越多地依赖用于高风险决策的多轮对话式AI，需要原则化的框架以确保此类交互可靠地提高决策质量。我们采用以人类为中心的观点，受两个原则驱动：反事实危害，确保AI不削弱人类的优势；互补性，确保AI在人类易出错的地方提供价值。我们通过用户定义的规则来正式化这些概念，允许用户为自己的具体任务精确地定义危害和互补性的含义。随后，我们引入一种在线、无分布假设的算法，具有有限样本保证，能够在协作动态中强制执行用户指定的约束。我们在两种交互环境中评估了该框架：一个是针对医学诊断任务的LLM模拟协作，另一个是针对图式推理任务的人工众包研究。我们展示了该在线程序即使在非平稳交互动力学下，也能维持所规定的反事实危害和互补性违规率。此外，紧缩或放宽这些约束会导致下游人类准确率发生可预测的变化，证明这两个原则作为控制多轮协作以获得更好决策质量的实用杠杆，无需建模或约束人类行为。
引用
@article{arxiv.2602.17646,
title = {Multi-Round Human-AI Collaboration with User-Specified Requirements},
author = {Sima Noorani and Shayan Kiyani and Hamed Hassani and George Pappas},
journal= {arXiv preprint arXiv:2602.17646},
year = {2026}
}