面向多智能体远程控制的从语言导向到涌现通信的知识蒸馏
人工智能
2024-03-05 v2 信息论
机器学习
网络与互联网体系结构
math.IT
摘要
在这项工作中，我们比较了基于多智能体深度强化学习 (MADRL) 构建的涌现通信 (EC) 和由预训练大语言模型 (LLM) 赋能的使用人类语言的语言导向语义通信 (LSC)。在一个具有包含位置和信道地图的多模态输入数据的多智能体远程导航任务中，结果表明 EC 训练成本高，且在使用多模态数据时表现挣扎，而 LSC 由于 LLM 的庞大尺寸导致推理计算成本高。为了解决它们各自的瓶颈，我们提出了一种新颖的语言引导涌现通信 (LEC) 框架，通过知识蒸馏 (KD) 利用 LSC 来指导 EC 训练。仿真结果证实，与 EC 相比，LEC 实现了更快的通行时间，同时避开了信道条件差的区域，并将 MDRL 训练收敛速度提升了高达 61.8%。
引用
@article{arxiv.2401.12624,
title = {Knowledge Distillation from Language-Oriented to Emergent Communication for Multi-Agent Remote Control},
author = {Yongjun Kim and Sejin Seo and Jihong Park and Mehdi Bennis and Seong-Lyun Kim and Junil Choi},
journal= {arXiv preprint arXiv:2401.12624},
year = {2024}
}