POLARIS：引导可信赖AI系统开发的框架
软件工程
2024-05-10 v1
摘要
在不断拓展的人工智能（AI）领域，创新蓬勃发展，不断推出新产品和服务，确保AI系统在整个生命周期内负责任地进行设计和开发至关重要。为此，已发布了若干AI伦理原则和指南，AI系统应遵循这些原则。然而，仅依赖高层次的AI伦理原则远远不足以确保AI系统的负责任工程。该领域的AI专业人士往往凭空判断。事实上，尽管存在促进可信赖AI（TAI）的建议，但这些建议往往是高层次的陈述，难以转化为具体的实施策略。在高层次AI伦理原则与AI专业人士的低层次具体实践之间存在显著鸿沟。为此，我们提出了一项经验报告，构建了一种新型的整体框架，用于可信赖AI——旨在弥合理论与实践之间的差距——并报告其在工业案例研究中的应用。该框架基于对当代实践的系统性综述、调查调查，以及对34名AI从业者的思考式访谈结果。与现文献中大多数框架不同，本框架旨在为整个软件开发生命周期（SDLC）中的不同类型利益相关者提供可操作的指导方针和工具。我们的目标是通过实践见解赋能AI专业人士在TAI的伦理维度上自信地导航，确保AI的巨大潜力被负责任地实现，惠及整个社会。
引用
@article{arxiv.2402.05340,
title = {POLARIS: A framework to guide the development of Trustworthy AI systems},
author = {Maria Teresa Baldassarre and Domenico Gigante and Marcos Kalinowski and Azzurra Ragone},
journal= {arXiv preprint arXiv:2402.05340},
year = {2024}
}