中文

论文:若 AI 系统系统性地违反基本权利,这是否仍是创新?

计算机与社会 2025-11-04 v1 人工智能 机器学习 应用统计

摘要

人工智能(AI)如今已渗透到关键基础设施和决策系统中,其中故障会产生社会、经济和民主危害。本立场论文挑战了将法规与创新视为对立的根深蒂固的信念。正如航空、药品和福利系统的类比以及最近的合成误information、偏见和不可解释决策案例所示,缺乏周到的法规已经造成不可衡量的损害。当论坛周到且具有适应性时,法规并非限制创新——它是创新的基础。本立场论文将欧盟 AI 法案作为风险导向、责任导向法规的典范,探讨其如何解决哥兰杜里 dilemma:既能及时行动以防止伤害,又能保持足够灵活性以维持创新。其适应性机制——监管沙盒、中小企业支持、现实世界测试、基本权利影响评估(FRIA)——展示了法规如何负责任地加速技术进步。该论文概述了治理工具如何将 perceived 负担转化为可实现的优势:法律确定性、消费者信任和伦理竞争力。最终,本论文重新定义了进步:创新与法规同步推进。通过将透明度、影响评估、问责制和 AI 素养嵌入设计和部署,欧盟框架定义了负责任创新之意——以民主价值和基本权利为约束的技术野心。

关键词

引用

@article{arxiv.2511.00027,
  title  = {Position Paper: If Innovation in AI Systematically Violates Fundamental Rights, Is It Innovation at All?},
  author = {Josu Eguiluz Castañeira and Axel Brando and Migle Laukyte and Marc Serra-Vidal},
  journal= {arXiv preprint arXiv:2511.00027},
  year   = {2025}
}

备注

NeurIPS 2025 Position Paper track; accepted for oral and poster presentation at the Thirty-Ninth Annual Conference on Neural Information Processing Systems