可微无权重控制器:用于连续控制的离散逻辑电路学习
机器学习
2025-12-02 v1 硬件体系结构
符号计算
摘要
我们研究了连续控制策略能否表示为离散逻辑电路而非连续神经网络。我们引入可微无权重控制器(Differentiable Weightless Controllers, DWCs),一种符号-可微架构,通过热力学编码输入、稀疏连接的布尔查找表层和轻量级动作头,将实值观察映射到动作。DWCs可以通过基于梯度的技术进行端到端训练,却直接编译为FPGA兼容电路,具有少甚至单时钟周期延迟和纳瓦特级能耗。对于五个MuJoCo基准测试,包括高维Humanoid,DWCs实现的收益与基于权重的策略(全精度或量化神经网络)相当,四个任务匹配性能,并将网络容量确定为HalfCheetah的关键限制因素。此外,DWCs表现出结构稀疏且可解释的连接模式,使能够直接检查哪些输入阈值影响控制决策。
引用
@article{arxiv.2512.01467,
title = {Differentiable Weightless Controllers: Learning Logic Circuits for Continuous Control},
author = {Fabian Kresse and Christoph H. Lampert},
journal= {arXiv preprint arXiv:2512.01467},
year = {2025}
}
备注
16 pages, 11 figures, 10 tables