面向人智协作的混淆鲁棒策略改进
人机交互
2025-02-27 v2 机器学习
摘要
人智协作有望通过发挥人类专家与人工智能(AI)系统的互补优势变革诸多领域。然而,未观测混淆会削弱该协作的有效性,导致有偏且不可靠的结果。本文中,我们提出一种新颖方案,通过采用因果推断中的敏感性分析来解决人智协作中的未观测混淆问题。我们的方法结合领域专业知识与AI驱动的统计建模,以考量潜在隐藏混淆因素。我们提出一种延迟协作框架,将敏感性模型纳入离线策略学习,使系统能控制未观测混淆因素的影响。此外,我们提出个性化延迟协作系统,以利用不同人类决策者的多样专长。通过调整潜在偏差,我们所提方案增强了协作结果的鲁棒性与可靠性。实证与理论分析证明了该方法在缓解未观测混淆和提升人智协作整体性能方面的有效性。
引用
@article{arxiv.2310.08824,
title = {Confounding-Robust Policy Improvement with Human-AI Teams},
author = {Ruijiang Gao and Mingzhang Yin},
journal= {arXiv preprint arXiv:2310.08824},
year = {2025}
}
备注
AAAI 25