AI卡片：受欧盟AI法案启发的机器可读AI与风险文档应用框架
计算机与社会
2024-06-27 v1 人工智能
摘要
随着欧盟AI法案即将实施，高风险AI系统及其风险管理信息的文档化将成为一项法律要求，在证明合规性方面发挥关键作用。尽管其重要性，但缺乏协助起草符合AI法案的AI和风险文档的标准和指南。本文旨在通过深入分析AI法案中关于技术文档的条款来填补这一空白，我们特别关注AI风险管理。在此分析的基础上，我们提出了AI卡片作为一个新颖的整体框架，用于表示AI系统的特定预期用途，涵盖技术规格、使用背景和风险管理信息，同时提供人类可读和机器可读的格式。虽然AI卡片的人类可读表示为AI利益相关者提供了透明且易于理解的AI用例概述，但其机器可读规范利用了最先进的语义网技术，以体现AI价值链内交换文档所需的互操作性。这带来了反映AI系统及其上下文变化所需的灵活性，提供了容纳法律要求潜在修订所需的可扩展性，并能够开发自动化工具以协助法律合规和符合性评估任务。为了巩固这些优势，我们为基于AI的学生监考系统提供了一个示例AI卡片，并进一步讨论了其在AI法案背景下及之外潜在应用。
引用
@article{arxiv.2406.18211,
title = {AI Cards: Towards an Applied Framework for Machine-Readable AI and Risk Documentation Inspired by the EU AI Act},
author = {Delaram Golpayegani and Isabelle Hupont and Cecilia Panigutti and Harshvardhan J. Pandit and Sven Schade and Declan O'Sullivan and Dave Lewis},
journal= {arXiv preprint arXiv:2406.18211},
year = {2024}
}