用神经听诊器审视与去偏直觉物理学
机器学习
2019-09-09 v5 人工智能
计算机视觉与模式识别
机器学习
摘要
视觉预测积木塔的稳定性是直觉物理学领域中的一项流行任务。先前工作聚焦于预测准确率这一一维性能指标，而我们提供了对最终模型所学物理理解及其学习过程如何被引导的更广泛分析。为此，我们引入神经听诊器（neural stethoscopes）作为一种通用框架，用于量化深度神经网络中特定影响因素的重要程度，并酌情主动促进和抑制信息。在此过程中，我们统一了多任务学习以及使用辅助和对抗损失进行训练的概念。我们将神经听诊器应用于分析最先进的稳定性预测神经网络。我们表明基线模型易被错误的视觉线索误导。当在视觉线索与稳定性负相关的场景上训练时，这导致性能崩溃至随机猜测水平。使用听诊器促进有意义的特征提取将预测准确率从51%提升至90%。反之，在视觉线索与稳定性正相关的简单数据集上训练时，基线模型学到一种偏置，导致在更难的数据集上表现不佳。使用对抗听诊器，网络被成功去偏，使性能从66%提升至88%。
引用
@article{arxiv.1806.05502,
title = {Scrutinizing and De-Biasing Intuitive Physics with Neural Stethoscopes},
author = {Fabian B. Fuchs and Oliver Groth and Adam R. Kosiorek and Alex Bewley and Markus Wulfmeier and Andrea Vedaldi and Ingmar Posner},
journal= {arXiv preprint arXiv:1806.05502},
year = {2019}
}