视觉中可信赖的大模型：综述
计算机视觉与模式识别
2024-02-02 v5 人工智能
摘要
大模型（LMs）的快速发展近来以卓越的成绩革新了从自然语言处理（NLP）到计算机视觉（CV）的深度学习的多个领域。然而，LMs 因其强大性能但不可信赖的行为而受到学术界和工业界日益增长的挑战与批评，这迫切需要通过可靠的方法来缓解。尽管关于 NLP 中可信赖 LMs 的文献丰富，但专门深入探讨 CV 中 LMs 可信赖性的系统性综述仍然缺失。为弥补这一空白，我们在本综述中总结了阻碍 LMs 在视觉中可信赖使用的四类相关问题，包括 1) 人类误用、2) 脆弱性、3) 固有问题和 4) 可解释性。通过在每个主题中强调相应的挑战、对策与讨论，我们希望本综述将有助于读者理解该领域，促进 LMs 与人类期望的对齐，并使可信赖的 LMs 成为人类社会的福祉而非灾难。
引用
@article{arxiv.2311.09680,
title = {Trustworthy Large Models in Vision: A Survey},
author = {Ziyan Guo and Li Xu and Jun Liu},
journal= {arXiv preprint arXiv:2311.09680},
year = {2024}
}