一种用于对话伦理监测与评估的基于逻辑的多智能体系统
人工智能
2021-09-20 v1 机器学习
多智能体系统
摘要
对话系统是为涉及人机交互的各种实际目的而设计的工具。这些系统应建立在伦理基础之上，因为其行为可能严重影响用户（尤其考虑到儿童）。本文的主要目标是展示一个用于对话系统伦理监测与评估的多智能体系统（MAS）的架构与原型实现。我们开发并展示了一个原型应用，用于依据其机构/公司的伦理与行为准则，对在线客服聊天点中聊天智能体（人类/人工）的伦理行为进行监测与评估。本文还讨论了该研究的未来工作与开放问题。
引用
@article{arxiv.2109.08294,
title = {A Logic-based Multi-agent System for Ethical Monitoring and Evaluation of Dialogues},
author = {Abeer Dyoub and Stefania Costantini and Ivan Letteri and Francesca A. Lisi},
journal= {arXiv preprint arXiv:2109.08294},
year = {2021}
}
备注
In Proceedings ICLP 2021, arXiv:2109.07914