COBRA：用于声誉评估的上下文感知伯努利神经网络
多智能体系统
2020-01-07 v2 机器学习
摘要
信任与声誉管理(trust and reputation management, TRM)在多智能体系统(multi-agent systems, MAS)与物联网(Internet of Things, IoT)等大规模在线环境中发挥着日益重要的作用。TRM 的一个主要目标是对智能体或物联网服务提供商等实体的信任进行准确评估。然而，正如我们在本文中所指出的，这遇到了准确性—隐私困境，为此我们提出了一个称为基于上下文感知伯努利神经网络的声誉评估(Context-aware Bernoulli Neural Network based Reputation Assessment, COBRA)的框架来应对这一挑战。COBRA 将易于发生隐私泄露的智能体交互或交易封装于机器学习模型中，并使用伯努利神经网络聚合多个此类模型以预测智能体的信任分数。COBRA 通过机器学习模型保护智能体隐私并保留交互上下文，且比全连接神经网络替代方案实现了更准确的信任预测。COBRA 对注入伪造机器学习模型的智能体所发起的安全攻击也具有鲁棒性；值得注意的是，它能抵抗 51% 攻击。COBRA 的性能通过我们使用真实数据集的实验以及我们的仿真得到验证，其中我们还表明 COBRA 优于其他最优(state-of-the-art) TRM 系统。
引用
@article{arxiv.1912.08446,
title = {COBRA: Context-aware Bernoulli Neural Networks for Reputation Assessment},
author = {Leonit Zeynalvand and Tie Luo and Jie Zhang},
journal= {arXiv preprint arXiv:1912.08446},
year = {2020}
}
备注
To be published in the Proceedings of AAAI, Feb 2020