RV4Chatbot：聊天机器人是否可以梦见电羊？
人工智能
2024-11-22 v1 人机交互
软件工程
摘要
聊天机器人已成为各类应用领域的核心组件，包括那些具有安全性考量的场景。因此，亟需一种方法确保聊天机器人始终遵循预期的安全行为。本文介绍了 RV4Chatbot——一个用于监控聊天机器人行为偏差的运行时验证框架。我们将期望的行为形式化为用户与聊天机器人之间的交互协议。我们present了RV4Chatbot的设计，并描述了两种实现：一种用于监控使用Rasa框架创建的聊天机器人的RV4Rasa，另一种用于监控Dialogflow聊天机器人的RV4Dialogflow。此外，我们详细描述了在工厂自动化场景中使用两种工具进行的实验。
引用
@article{arxiv.2411.14368,
title = {RV4Chatbot: Are Chatbots Allowed to Dream of Electric Sheep?},
author = {Andrea Gatti and Viviana Mascardi and Angelo Ferrando},
journal= {arXiv preprint arXiv:2411.14368},
year = {2024}
}
备注
In Proceedings FMAS2024, arXiv:2411.13215