过程知识融合的 AI：迈向用户级可解释性、可理解与安全性
人工智能
2022-06-28 v1 计算与语言
摘要
AI 系统已在现实世界的多个领域被广泛采用。然而，在高价值、敏感或安全关键的应用中，例如用于个性化的自我管理或具特定目的的食物推荐（如过敏感知的食谱推荐），其采用不太可能。首先，AI 系统需要遵循专家设定的指南或明确定义的流程；仅有数据并不充分。例如，为诊断抑郁症严重程度，精神健康照护提供者使用患者健康问卷（PHQ-9）。因此，若要将 AI 系统用于诊断，则需使用 PHQ-9 所隐含的医疗指南。同样，对于引导糖尿病患者制定食物计划的 AI 系统，需要使用营养学家的知识与步骤。其次，许多当前 AI 系统典型的黑箱性质不可行；AI 系统的用户需要能够获得用户可理解的解释，即使用人类可理解且熟悉的概念构建的解释。这是引发对 AI 系统信心与信任的关键。对此类应用，除数据与领域知识外，AI 系统还需获取并使用过程知识——AI 系统需要使用或遵循的一组有序步骤。
引用
@article{arxiv.2206.13349,
title = {Process Knowledge-Infused AI: Towards User-level Explainability, Interpretability, and Safety},
author = {Amit Sheth and Manas Gaur and Kaushik Roy and Revathy Venkataraman and Vedant Khandelwal},
journal= {arXiv preprint arXiv:2206.13349},
year = {2022}
}
备注
To paper in IEEE Internet Computing 2022