基于风险的人工智能监管之风险:认真对待责任
计算机与社会
2023-11-28 v1 人工智能
摘要
人工智能多用途大型“基础模型”的研发与监管似乎已到达关键阶段,重大投资与新应用隔三差五便对外公布。一些专家呼吁暂停训练比GPT-4更强大的人工智能系统。全球立法者竞相为新监管体制设定蓝图。本文分析最先进的法律提案——正处于欧盟各机构最终“三方会谈”谈判阶段的《欧盟人工智能法案》。该立法可能产生域外影响,有时被称为“布鲁塞尔效应”。它亦构成对传统信息通信技术政策的根本背离,即通过基于风险的事前监管方式,依据产品安全原则预防特定有害结果。我们提供评述与批判,具体讨论该法案在数据质量与人类监督方面存在问题的义务。我们的提议是将责任作为关键监管机制认真对待。这向行业发出信号:若发生违法,企业尤须知晓其输入为何,以及如何重新训练系统以补救违法。此外,我们建议区分潜在危害的内生与外生来源,可通过在人工智能技术开发者与部署者之间审慎分配责任加以缓解。
引用
@article{arxiv.2311.14684,
title = {The risks of risk-based AI regulation: taking liability seriously},
author = {Martin Kretschmer and Tobias Kretschmer and Alexander Peukert and Christian Peukert},
journal= {arXiv preprint arXiv:2311.14684},
year = {2023}
}