给 GenAI 的未来保驾：政策与技术

Mihai Christodorescu; Ryan Craven; Soheil Feizi; Neil Gong; Mia Hoffmann; Somesh Jha; Zhengyuan Jiang; Mehrdad Saberi Kamarposhti; John Mitchell; Jessica Newman; Emelia Probasco; Yanjun Qi; Khawaja Shams; Matthew Turek

给 GenAI 的未来保驾：政策与技术

计算机与社会 2024-07-19 v1 人工智能密码学与安全

作者: Mihai Christodorescu , Ryan Craven , Soheil Feizi , Neil Gong , Mia Hoffmann , Somesh Jha , Zhengyuan Jiang , Mehrdad Saberi Kamarposhti , John Mitchell , Jessica Newman , Emelia Probasco , Yanjun Qi , Khawaja Shams , Matthew Turek

在 arXiv 上查看 ↗ PDF ↗

摘要

生成式 AI (GenAI) 的兴起带来了跨行业变革性潜力，但其双用途特性也放大了风险。全球政府正面临调控 GenAI 的挑战，需在创新与安全之间取得平衡。中国、美国 (US) 和欧盟 (EU) 等地区领先，分别推出了算法推荐管理、行政命令和 AI 法案等举措。然而，GenAI 能力的快速演进常常快于安全措施的完善，导致监管需求与技术进步之间存在鸿沟。由 Google、University of Wisconsin, Madison (UW-Madison) 和斯坦福大学共同主办的工作坊旨在弥合 GenAI 政策与技术之间的这一鸿沟。来自公众、政府、学术界和产业界的广泛利益相关者使得在考虑安全措施时更加复杂，因为技术可行性和监管指导方都必须得到实现。本文概述了工作坊讨论的内容，围绕以下问题展开：如何设计不阻碍技术进步的监管？技术如何演进以满足监管标准？立法与技术之间的相互作用是一个极其广阔的话题，我们不声称本文能全面覆盖此主题。本文旨就工作坊发现为依据，期待为此话题的讨论提供指引。

关键词

生成式 AI AI 政策监管框架技术安全互操作性

引用

@article{arxiv.2407.12999,
  title  = {Securing the Future of GenAI: Policy and Technology},
  author = {Mihai Christodorescu and Ryan Craven and Soheil Feizi and Neil Gong and Mia Hoffmann and Somesh Jha and Zhengyuan Jiang and Mehrdad Saberi Kamarposhti and John Mitchell and Jessica Newman and Emelia Probasco and Yanjun Qi and Khawaja Shams and Matthew Turek},
  journal= {arXiv preprint arXiv:2407.12999},
  year   = {2024}
}

给 GenAI 的未来保驾：政策与技术

摘要

关键词

引用

相关论文