论多模态与单模态机器学习之间更强的计算分离

近期，多模态机器学习取得了巨大的实证成功（例如 GPT-4）。为了给这一实证成功发展理论依据，Lu (NeurIPS '23, ALT '24) 引入了多模态学习理论，并考虑了多模态与单模态学习的理论模型之间可能的分离。特别地，Lu (ALT '24) 展示了一种与学习任务的最坏情况实例相关的计算分离。在本文中，我们给出了一种更强的平均情况计算分离，即对于学习任务的“典型”实例，单模态学习在计算上是困难的，而多模态学习则是容易的。随后，我们质疑这种平均情况分离有多“自然”。它在实践中会遇到吗？为此，我们证明在基本条件下，平均情况单模态与多模态学习任务之间的任何给定计算分离都蕴含着相应的密码学密钥协商协议。我们建议将此解读为一种证据，表明多模态学习非常强的计算优势在实践中可能很少出现，因为它们仅存在于内在密码学分布这种“病态”情况下。然而，这不适用于可能的（超多项式的）统计优势。