面向 AI 监管的激励感知：一种信德集合描述
机器学习
2026-03-06 v1
摘要
虽然高风险的机器学习应用需要严格的监管，但战略性的 ML 提供者往往会规避监管以降低开发成本。为此，我们将 AI 监管建模为不确定性下的机制设计问题，引入监管机制框架，将模型的经验证据映射为某些市场份额的许可证。提供者可以从一组许可证中进行选择，实际上迫使他们对自己模型履行监管能力进行押注。我们的目标是实现完美的市场结果，即（a）驱动不合规的提供者自行退出，（b）确保合规的提供者参与其中。我们证明，只有当一组不合规分布形成信德集合（即闭合凸集的概率测度）时，监管机制才具有完美的市场结果。该结果通过建立监管机制与不合规分布集合之间的二元性，将机制设计与不确定概率联系起来。我们还通过对使用虚假特征进行预测和公平性监管的实验演示了这些机制。我们的框架在机制设计与不确定概率的交叉点上提供了新的见解，为开发可执行的 AI 监管奠定了基础。
引用
@article{arxiv.2603.05175,
title = {Incentive Aware AI Regulations: A Credal Characterisation},
author = {Anurag Singh and Julian Rodemann and Rajeev Verma and Siu Lun Chau and Krikamol Muandet},
journal= {arXiv preprint arXiv:2603.05175},
year = {2026}
}