基于知识图谱的 AI 中面向自决的信任、问责与自主性
人工智能
2023-11-01 v2 计算机与社会
多智能体系统
摘要
知识图谱（KGs）已成为支撑智能决策以及 Google、Walmart、AirBnb 等大型企业各类人工智能（AI）服务的基础平台。KGs 通过提供数据上下文与语义来补充机器学习（ML）算法，从而实现进一步的推理与问答能力。KGs 与神经学习（如大语言模型（LLMs））的融合是当前活跃的研究课题，通常被称为神经符号 AI。尽管基于 KG 的 AI 可带来诸多益处，但其在在线服务中日益普及可能导致公民丧失自决能力这一根本社会问题。我们越依赖这些往往中心化的技术，公民就越难以决定自身命运。为应对此威胁，某些地区正提出 AI 监管，如欧盟（EU）AI 法案。该法规规定了技术开发者须履行的义务，由此引发如下问题：如何信任 AI 系统的输出？需要确保何种条件以使驱动这些制品的数据及其内部机制透明？如何使 AI 对其决策负责？本文概念化了支撑面向自决的基于 KG 的 AI 的基础主题与研究支柱。基于该概念框架，我们在真实场景中阐释并分析了公民自决面临的挑战与机遇。据此，我们提出旨在实现所建议目标的研究议程。
引用
@article{arxiv.2310.19503,
title = {Trust, Accountability, and Autonomy in Knowledge Graph-based AI for Self-determination},
author = {Luis-Daniel Ibáñez and John Domingue and Sabrina Kirrane and Oshani Seneviratne and Aisling Third and Maria-Esther Vidal},
journal= {arXiv preprint arXiv:2310.19503},
year = {2023}
}