组件失配是公共部门部署 AI 赋能系统的关键瓶颈

机器学习或人工智能（ML/AI）的使用在改善公共部门的许多职能与需求方面具有巨大潜力。然而在实践中，将 ML/AI 组件集成到公共部门应用中受到严重限制，这不仅因为这些组件及其算法的脆弱性，还因为 ML 赋能系统各组件之间的失配。例如，若 ML 模型所训练的数据与运行环境中的数据不同，该 ML 组件在现场的性能将大幅下降。除软件工程考量外，在系统内署置 ML/AI 组件所需的专业知识常来自软件工程之外。因此，这些不同学科从业者所使用的假设乃至描述性语言会加剧将 ML/AI 组件集成到更大型系统中的其他挑战。我们正在研究 ML/AI 系统集成中的失配类别，以识别不同领域（数据科学家、软件工程师、运维人员）从业者所做出的隐式假设，并寻找显式传达适当信息的方法。我们将讨论几类失配，并给出每类的示例。为使 ML/AI 组件得以有意义地部署，我们需要认识存在的失配并制定实践以缓解这些失配的影响。