通过结构因果博弈在人机交互中实现人类期望结果

在人机交互中，一个显著的目标是在AI智能体的辅助下实现人类期望的结果，这可以理想地描述为寻求与人类期望结果相匹配的最优纳什均衡问题。然而，由于存在多个与辅助任务相关但不对应于人类期望结果的纳什均衡，实现该结果通常具有挑战性。为解决此问题，我们采用了一个称为结构因果博弈(SCG)的理论框架来形式化人机交互过程。此外，我们引入了一种称为SCG上的策略前干预的策略，以引导AI智能体实现人类期望的结果。更详细地说，策略前被学习为一种广义干预，用于在由SCG确定的透明且可解释的程序下指导智能体的策略选择。为使该框架实用，我们提出了一种类似强化学习的算法来搜索此策略前。所提出的算法在网格世界环境和具有大语言模型的现实对话场景中均进行了测试，证明了其在更广泛问题类别中的适应性以及在现实世界情境中的潜在有效性。