社会技术系统中 AI 对齐与治理的激励兼容性路线图
人工智能
2025-06-17 v3 计算机与社会
计算机科学与博弈论
人机交互
摘要
人工智能 (AI) 日益融入人类社会，对社会治理与安全带来了重大影响。尽管在应对 AI 对齐挑战方面已取得显著进展，但现有方法主要关注技术层面，往往忽略了 AI 系统复杂的社会技术性质，这可能导致开发与部署情境之间的不一致。为此，我们提出一个值得探索的新问题：激励兼容性社会技术对齐问题 (ICSAP)。我们希望这能呼吁更多研究人员探索如何利用博弈论中的激励兼容性 (IC) 原则来弥合技术与社会组件之间的鸿沟，以在不同情境下维持 AI 与人类社会的共识。我们进一步讨论了实现 IC 的三个经典博弈问题：机制设计、合同理论和贝叶斯说服，探讨了它们在解决 ICSAP 方面的视角、潜力和挑战，并提供了初步的实施构想。
引用
@article{arxiv.2402.12907,
title = {Roadmap on Incentive Compatibility for AI Alignment and Governance in Sociotechnical Systems},
author = {Zhaowei Zhang and Fengshuo Bai and Mingzhi Wang and Haoyang Ye and Chengdong Ma and Yaodong Yang},
journal= {arXiv preprint arXiv:2402.12907},
year = {2025}
}