面向可解释人工智能的知识密集型语言理解

人工智能系统已在各个领域得到广泛应用。与此同时，由于无法完全信任人工智能系统不会伤害人类，其在某些领域的进一步应用受到阻碍。除了公平性、隐私性、透明度和可解释性方面的担忧外，这些也是建立对人工智能系统信任的关键。正如描述可信人工智能时所述：“信任源于理解。人工智能主导的决策是如何做出的，以及包含了哪些决定因素，这些对于理解至关重要。”解释人工智能系统的子领域被称为XAI。人工智能系统的多个方面都可以被解释；这些包括数据可能存在的偏差、示例空间中特定区域数据点的缺失、数据收集的公平性、特征重要性等。然而，除此之外，拥有与决策直接相关的、以人为中心的解释至关重要，这类似于领域专家基于“领域知识”做出决策的方式，其中也包括经过充分验证的、同行认可的明确指南。为了理解和验证人工智能系统的结果（如分类、推荐、预测），从而建立对系统的信任，必须引入人类理解并使用的显式领域知识。