AI 维护：一个鲁棒性视角
机器学习
2023-01-10 v1 人工智能
计算机与社会
摘要
随着机器学习（ML）方法与计算资源的进步，人工智能（AI）赋能系统正成为一种主流技术。然而，当前的 AI 技术如深度学习并非无懈可击。模型复杂度与数据规模的显著增长在缺乏可信度与透明度时引发了加剧的挑战，可能带来新风险与负面影响。本文从鲁棒性视角剖析 AI 维护。我们首先介绍 AI 生命周期中若干突出的鲁棒性挑战，并通过类比汽车维护引出 AI 维护的动机。随后，我们提出一种 AI 模型检测框架以发现并缓解鲁棒性风险。我们还从车辆自动驾驶中汲取灵感，定义了 AI 鲁棒性自动化的等级。我们关于 AI 维护的提议促进了 AI 生命周期中的鲁棒性评估、状态追踪、风险扫描、模型加固与监管，是迈向构建可持续且可信 AI 生态的关键里程碑。
引用
@article{arxiv.2301.03052,
title = {AI Maintenance: A Robustness Perspective},
author = {Pin-Yu Chen and Payel Das},
journal= {arXiv preprint arXiv:2301.03052},
year = {2023}
}
备注
Accepted to IEEE Computer Magazine. To be published in 2023