批量通用预测
信息论
2024-02-07 v1 机器学习
math.IT
机器学习
摘要
大型语言模型（LLMs）近期因其生成类人英语句子的惊人能力而广受欢迎。LLMs本质上是预测器，根据过去估计词序列的概率。因此，从通用预测的角度评估其性能是自然的。为了公平地进行评估，我们引入了批量遗憾（batch regret）的概念，作为经典平均遗憾的修改，并研究了在无记忆源和一阶马尔可夫源的情况下，加常数预测器的渐近值。
引用
@article{arxiv.2402.03901,
title = {Batch Universal Prediction},
author = {Marco Bondaschi and Michael Gastpar},
journal= {arXiv preprint arXiv:2402.03901},
year = {2024}
}