认知模型作为模拟器:以道德决策为例
人工智能
2022-10-11 v1 机器学习
多智能体系统
神经元与认知
摘要
为获得理想性能,当前AI系统常需海量训练数据。这在数据收集既昂贵又耗时的领域尤为棘手,例如AI系统需要与人类大量交互并收集其反馈的场景。本工作中,我们实证了这一理念,即让AI系统与认知模型而非人类交互并收集反馈,从而使其训练过程成本更低、速度更快。在此,我们在道德决策背景下利用该理念,让强化学习(RL)智能体通过与最后通牒博弈(UG)的认知模型交互来学习公平性——UG是行为与脑科学中研究公平性的经典任务。有趣的是,这些RL智能体学会了根据其所模拟的UG响应者的情绪状态理性调整自身行为。我们的工作表明,使用认知模型作为人类模拟器是训练AI系统的有效途径,为计算认知科学对AI作出贡献提供了一种重要方式。
引用
@article{arxiv.2210.04121,
title = {Cognitive Models as Simulators: The Case of Moral Decision-Making},
author = {Ardavan S. Nobandegani and Thomas R. Shultz and Irina Rish},
journal= {arXiv preprint arXiv:2210.04121},
year = {2022}
}