与人类表征的对齐支持鲁棒的小样本学习
机器学习
2023-10-31 v3 人工智能
计算机视觉与模式识别
人机交互
机器学习
摘要
我们是否应在意 AI 系统拥有与世界相似于人类的表征？我们提供了一种信息论分析，表明与人类表征对齐的程度和小样本学习任务表现之间应存在 U 形关系。我们通过实证证实了该预测，在针对 491 个计算机视觉模型性能的分析中发现了此种关系。我们还表明高度对齐的模型对自然对抗攻击和域偏移都更为鲁棒。我们的结果表明，人类对齐常常是模型有效利用有限数据、保持鲁棒并良好泛化的充分但非必要条件。
引用
@article{arxiv.2301.11990,
title = {Alignment with human representations supports robust few-shot learning},
author = {Ilia Sucholutsky and Thomas L. Griffiths},
journal= {arXiv preprint arXiv:2301.11990},
year = {2023}
}
备注
Spotlight at NeurIPS 2023