AI的FDA批准制度？前沿人工智能的批准监管的陷阱与可行性
计算机与社会
2024-08-05 v1
摘要
人工智能（AI）的观察者和从业者提出了一种针对最先进AI模型（即“前沿”模型）的FDA风格授权制度。本文探讨了批准监管——即结合实验性最低要求与政府许可证（部分或全部基于该实验）的产品监管——是否适用于前沿AI的监管。我们认为，若简单应用，批准监管对于前沿AI风险可能不太合适。弱匹配的领域包括：难以定义受监管产品、关于AI潜在风险存在的Knightian 不确定性或深层模糊性、风险的可传递性，以及参与AI生命周期的各方活动分布。我们通过强调政策学习和实验在监管发展中的作用，描述了如何从其他AI监管形式获得经验，以及改进评估和测试方法，以克服我们所识别的挑战。
引用
@article{arxiv.2408.00821,
title = {An FDA for AI? Pitfalls and Plausibility of Approval Regulation for Frontier Artificial Intelligence},
author = {Daniel Carpenter and Carson Ezell},
journal= {arXiv preprint arXiv:2408.00821},
year = {2024}
}
备注
Accepted to Seventh AAAI/ACM Conference on AI, Ethics, and Society (2024)