面向少样本3D点云语义分割的白化聚合与恢复
机器学习
2025-09-18 v1
摘要
少样本3D点云语义分割(FS-PCS)旨在仅凭少量标记样本,对无标签点云进行逐点标签预测。为了从有限的标记集中提取判别性特征,现有方法通过最远点采样(FPS)等算法构建原型。然而,我们指出,这一做法会导致性能受采样方式影响,同时原型生成过程在该领域仍受到 insufficient 探索。这促使我们研究基于注意力机制的高级原型生成方法。尽管其潜力巨大,但我们发现,基础注意力模块因原型标记与支持特征之间的分布差异而受限。为克服这一问题,我们提出白化聚合与恢复模块(WARM),通过在whitening和coloring转换之间夹层交叉注意力来解决对齐问题。具体而言,whitening在注意力过程之前将特征对齐到标记上,而coloring则随后恢复注意力标记的原始分布。这种简单而有效的设计使注意力机制更加稳健,从而生成能够捕获支持特征中语义关系的原型。WARM在FS-PCS基准测试上以显著优势实现了最先进性能,并通过大量实验证明了其有效性。
关键词
引用
@article{arxiv.2509.13906,
title = {TFMAdapter: Lightweight Instance-Level Adaptation of Foundation Models for Forecasting with Covariates},
author = {Afrin Dange and Sunita Sarawagi},
journal= {arXiv preprint arXiv:2509.13906},
year = {2025}
}
备注
Accepted at CIKM 2025