利用人类感知正则化迁移学习
计算机视觉与模式识别
2022-11-16 v1 机器学习
摘要
机器学习领域的近期趋势表明,在视觉任务中,具有贴近人类感知测量保真度的模型表现强劲。类似地,人类行为测量已被用于正则化模型性能。但我们能否将由此获得的潜在知识迁移到不同的学习目标上?在本工作中,我们提出 PERCEP-TL(感知迁移学习),一种利用心理物理标签的正则化能力来改进模型迁移学习的方法论。我们展示了哪些模型受感知迁移学习影响最大,并发现具有高行为保真度的模型——包括视觉Transformer——从该正则化中获益最多,Top@1 准确率提升多达 1.9 个百分点。这些发现表明,受生物学启发的学习智能体可从人类行为测量作为正则化器中受益,且心理物理学习到的表征可迁移至独立的评测任务。
引用
@article{arxiv.2211.07885,
title = {Using Human Perception to Regularize Transfer Learning},
author = {Justin Dulay and Walter J. Scheirer},
journal= {arXiv preprint arXiv:2211.07885},
year = {2022}
}
备注
8 pages, 5 figures, student paper