重新思考行为克隆中的潜在冗余：一种用于机器人操作的信息瓶颈方法
机器人学
2025-05-14 v5 机器学习
摘要
行为克隆 (BC) 是机器人操作中广泛采用的视觉模仿学习方法。当前的 BC 方法通常通过利用大型数据集并整合额外的视觉和文本模态来捕获更多样化的信息，从而增强泛化能力。然而，这些方法忽略了学习到的表示是否包含冗余信息，并且缺乏坚实的理论基础来指导学习过程。为了解决这些局限性，我们采用信息论的视角，引入互信息来量化和减轻潜在表示中的冗余。在此基础上，我们将信息瓶颈 (IB) 原理融入 BC，该原理通过提供一个结构化框架来压缩无关信息同时保留任务相关特征，从而扩展了减少冗余的思想。本文首次全面研究了各种方法、骨干网络和实验设置下潜在表示中的冗余，同时将 IB 的泛化性扩展到 BC。在 CortexBench 和 LIBERO 基准上的大量实验和分析表明，使用 IB 可以显著提高性能，这突显了减少输入数据冗余的重要性，并强调了其在更实际应用中的实用价值。项目页面：https://baishuanghao.github.io/BC-IB.github.io。
引用
@article{arxiv.2502.02853,
title = {Rethinking Latent Redundancy in Behavior Cloning: An Information Bottleneck Approach for Robot Manipulation},
author = {Shuanghao Bai and Wanqi Zhou and Pengxiang Ding and Wei Zhao and Donglin Wang and Badong Chen},
journal= {arXiv preprint arXiv:2502.02853},
year = {2025}
}
备注
Accepted by ICML 2025