可信人工智能指南——AI评估目录
计算机与社会
2023-07-10 v1 人工智能
机器学习
摘要
人工智能(AI)近年来取得了令人瞩目的进展，并作为一项关键技术对经济社会产生着至关重要的影响。然而显而易见的是，只有当AI应用依据高质量标准开发并针对新型AI风险得到有效防护时，AI及其基于它的商业模式才能充分发挥其潜力。例如，AI在处理个人数据(如用于支持信贷发放或人员招聘决策)时存在对个体不公平对待的风险。这些新风险的出现与以下事实密切相关：AI应用特别是基于机器学习(ML)的应用的行为本质上是从大量数据中学习而得，并非由固定编程规则预先确定。因此，AI应用的可信性问题至关重要，并成为政治、商业和社会各界众多重要出版物的主题。此外，各方普遍认同，通常以抽象方式描述的可信AI要求现在必须变得清晰且可落实。此处需克服的一项挑战在于，AI应用的具体质量标准高度依赖于应用情境，而满足这些标准的可能措施又高度依赖于所采用的AI技术。最后，需要实用的评估程序来评判特定AI应用是否依据充分的质量标准开发。本AI评估目录正是针对这一点，并面向两类目标群体：其一，为开发者提供系统性使其AI应用可信的指南；其二，引导评估者与审计者以结构化方式审查AI应用的可信性。
引用
@article{arxiv.2307.03681,
title = {Guideline for Trustworthy Artificial Intelligence -- AI Assessment Catalog},
author = {Maximilian Poretschkin and Anna Schmitz and Maram Akila and Linara Adilova and Daniel Becker and Armin B. Cremers and Dirk Hecker and Sebastian Houben and Michael Mock and Julia Rosenzweig and Joachim Sicking and Elena Schulz and Angelika Voss and Stefan Wrobel},
journal= {arXiv preprint arXiv:2307.03681},
year = {2023}
}