面向可信（更）自治系统开发的以需求工程为中心的建议
计算机与社会
2024-01-08 v2 人工智能
软件工程
摘要
在欧盟开发与部署 AI 系统时遵守欧盟 AI 法案 (AIA) 指南很快将成为强制要求。然而，从业者缺乏在 AI 系统开发过程中将伦理可操作化的行动指引。对不同伦理指南的文献回顾揭示了所涵盖原则及用于描述它们的术语存在不一致。此外，需求工程 (RE) 被认定可从早期阶段促进 AI 开发过程中的可信性，但我们注意到其在许多支持伦理与可信 AI 开发的框架中缺失。这种不协调的表述加上具体开发实践的缺乏，使可信 AI 开发更为困难。为解决此问题，我们针对主要伦理 AI 指南中所用术语与伦理 AI 原则覆盖度编制了对比表。随后我们考察了伦理 AI 开发框架在可信 AI 系统开发中执行有效 RE 的适用性。对讨论伦理 AI 框架的文献进行的三级回顾与元分析揭示了其在开发可信 AI 时的局限。基于我们的发现，我们提出在可信 AI 开发中解决此类局限的建议。
引用
@article{arxiv.2306.01774,
title = {RE-centric Recommendations for the Development of Trustworthy(er) Autonomous Systems},
author = {Krishna Ronanki and Beatriz Cabrero-Daniel and Jennifer Horkoff and Christian Berger},
journal= {arXiv preprint arXiv:2306.01774},
year = {2024}
}
备注
Accepted at [TAS '23]{First International Symposium on Trustworthy Autonomous Systems}