增强自主代理可信度：基于区块链和大型语言模型的问责与可解释性架构
机器人学
2025-07-17 v4 人工智能
摘要
自主代理在涉及人类互动的环境中部署日益增多，引发安全顾虑。因此，理解事件背后的情况变得至关重要，需要开发能力向非专业用户解释其行为。这些解释对于增强可信度和安全性至关重要，作为预防措施，可防止故障、错误和误解。此外，它们有助于改进沟通，弥合代理与用户之间的鸿沟，从而提高交互效果。本文提出了一种用于 ROS 基于移动机器人的问责与可解释性架构。该解决方案包含两个主要组件：首先，一种类似黑盒子的元素，通过区块链技术实现防篡改功能；其次，一个利用大型语言模型(LLM)处理此前提到的黑盒子数据，以生成自然语言解释的组件。该研究在三个不同场景中评估了该解决方案的性能，这些场景都涉及自主代理导航功能。该评估包括对问责和可解释性指标的彻底检查，展示了该方法在使用自主代理在真实场景中工作时，能够从可追溯的数据中获取连贯、准确且易于理解的解释。
引用
@article{arxiv.2403.09567,
title = {Enhancing Trust in Autonomous Agents: An Architecture for Accountability and Explainability through Blockchain and Large Language Models},
author = {Laura Fernández-Becerra and Miguel Ángel González-Santamarta and Ángel Manuel Guerrero-Higueras and Francisco Javier Rodríguez-Lera and Vicente Matellán Olivera},
journal= {arXiv preprint arXiv:2403.09567},
year = {2025}
}